diff --git "a/src/fragments/benchmarks_interactive.html" "b/src/fragments/benchmarks_interactive.html"
--- "a/src/fragments/benchmarks_interactive.html"
+++ "b/src/fragments/benchmarks_interactive.html"
@@ -1 +1 @@
-<div>                            <div id="0c308b0c-1f16-4b5d-aa9f-53278b6605c2" class="plotly-graph-div"></div>            <script type="text/javascript">                window.PLOTLYENV=window.PLOTLYENV || {};                                if (document.getElementById("0c308b0c-1f16-4b5d-aa9f-53278b6605c2")) {                    Plotly.newPlot(                        "0c308b0c-1f16-4b5d-aa9f-53278b6605c2",                        [{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8839016752617386,0.8646048510219722,0.8587096693454469,1.0,0.9846921840640233,0.9768671722564443,0.9719178876401836,0.8283844215458352,0.9537973354080047,0.9532995787837407,0.9489701759965609,0.9401221406311583,0.9082189234418944,0.9014801831929492,0.8862155610136236,0.7396390196797837,0.8436655970212761,0.8392053274356713,0.6444621502844916,0.6186402946865007,0.6137161954797324,0.7054136946319671,0.6110152821053664,0.6052154918521919,0.6000798056075265,0.556624315359674,0.5386842513249298,0.3163073840166538,0.3092465071060856,0.3088600422013286,0.15205795351249796,0.012467312224784421],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.527739612807054,5.516218310339012,5.512698551317766,5.5112379656786565,5.503412029000565,5.499411585882646,5.496881323683864,5.494592652234244,5.487617409423711,5.48736293733972,5.485149582266198,5.480626130665737,5.464315994811293,5.460870894955185,5.453067040565374,5.441606595832294,5.4313138835342265,5.429033624384903,5.384780587229034,5.369363469628021,5.366423502116325,5.360634262205512,5.312374209822118,5.3094091368517216,5.3067835790636355,5.284567482631754,5.2753958407904875,5.188853512829389,5.184637767400738,5.157900979654431,5.090787253556405,5.00637376333928],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40,150\u003cbr\u003etok\u002fs: 321,200\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,273\u003cbr\u003etok\u002fs: 314,187\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,006\u003cbr\u003etok\u002fs: 312,045\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,895\u003cbr\u003etok\u002fs: 311,156\u003cbr\u003eGPU memory: 41.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,299\u003cbr\u003etok\u002fs: 306,393\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,995\u003cbr\u003etok\u002fs: 303,958\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,802\u003cbr\u003etok\u002fs: 302,418\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,628\u003cbr\u003etok\u002fs: 301,025\u003cbr\u003eGPU memory: 68.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,097\u003cbr\u003etok\u002fs: 296,780\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,078\u003cbr\u003etok\u002fs: 296,625\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,910\u003cbr\u003etok\u002fs: 295,278\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,566\u003cbr\u003etok\u002fs: 292,525\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,325\u003cbr\u003etok\u002fs: 282,598\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,063\u003cbr\u003etok\u002fs: 280,501\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,469\u003cbr\u003etok\u002fs: 275,751\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,597\u003cbr\u003etok\u002fs: 268,776\u003cbr\u003eGPU memory: 66.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,814\u003cbr\u003etok\u002fs: 262,512\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,640\u003cbr\u003etok\u002fs: 261,124\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,274\u003cbr\u003etok\u002fs: 234,190\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,101\u003cbr\u003etok\u002fs: 224,807\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,877\u003cbr\u003etok\u002fs: 223,017\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,437\u003cbr\u003etok\u002fs: 219,494\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,765\u003cbr\u003etok\u002fs: 190,121\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,540\u003cbr\u003etok\u002fs: 188,316\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,340\u003cbr\u003etok\u002fs: 186,718\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,650\u003cbr\u003etok\u002fs: 173,197\u003cbr\u003eGPU memory: 29.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,952\u003cbr\u003etok\u002fs: 167,615\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,368\u003cbr\u003etok\u002fs: 114,942\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,047\u003cbr\u003etok\u002fs: 112,377\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,013\u003cbr\u003etok\u002fs: 96,104\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,907\u003cbr\u003etok\u002fs: 55,256\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 485\u003cbr\u003etok\u002fs: 3,879\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40,150\u003cbr\u003etok\u002fs: 321,200\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,273\u003cbr\u003etok\u002fs: 314,187\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,006\u003cbr\u003etok\u002fs: 312,045\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,895\u003cbr\u003etok\u002fs: 311,156\u003cbr\u003eGPU memory: 41.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,299\u003cbr\u003etok\u002fs: 306,393\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,995\u003cbr\u003etok\u002fs: 303,958\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,802\u003cbr\u003etok\u002fs: 302,418\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,628\u003cbr\u003etok\u002fs: 301,025\u003cbr\u003eGPU memory: 68.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,097\u003cbr\u003etok\u002fs: 296,780\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,078\u003cbr\u003etok\u002fs: 296,625\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,910\u003cbr\u003etok\u002fs: 295,278\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,566\u003cbr\u003etok\u002fs: 292,525\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,325\u003cbr\u003etok\u002fs: 282,598\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,063\u003cbr\u003etok\u002fs: 280,501\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,469\u003cbr\u003etok\u002fs: 275,751\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,597\u003cbr\u003etok\u002fs: 268,776\u003cbr\u003eGPU memory: 66.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,814\u003cbr\u003etok\u002fs: 262,512\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,640\u003cbr\u003etok\u002fs: 261,124\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,274\u003cbr\u003etok\u002fs: 234,190\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,101\u003cbr\u003etok\u002fs: 224,807\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,877\u003cbr\u003etok\u002fs: 223,017\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,437\u003cbr\u003etok\u002fs: 219,494\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,765\u003cbr\u003etok\u002fs: 190,121\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,540\u003cbr\u003etok\u002fs: 188,316\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,340\u003cbr\u003etok\u002fs: 186,718\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,650\u003cbr\u003etok\u002fs: 173,197\u003cbr\u003eGPU memory: 29.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,952\u003cbr\u003etok\u002fs: 167,615\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,368\u003cbr\u003etok\u002fs: 114,942\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,047\u003cbr\u003etok\u002fs: 112,377\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,013\u003cbr\u003etok\u002fs: 96,104\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,907\u003cbr\u003etok\u002fs: 55,256\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 485\u003cbr\u003etok\u002fs: 3,879\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705],"y":[0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7624999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8550593591139709,0.8299228310445118,0.8279780243027676,0.8180620196319911,0.9383609666248526,0.9357256332577526,0.9059931594458959,0.900690868711291,0.8951520407378829,0.7663099945445743,0.7597706534242701,0.7454641935972108,0.7448746313995209,0.8567805584901311,0.842590123901805,0.7180645216172774,0.7145760217723965,0.8333217207261383,0.8210279548450409,0.7940933051991141,0.7483500884829245,0.7437720644893069,0.6253352819881965,0.7290651045610292,0.6206302322163428,0.6131354392894766,0.6091084520900218,0.704495570197439,0.5870927730550843,0.5819434602081979,0.5711384890869842,0.5485184977919054,0.5397844794689245,0.5353105873922067,0.5950976114623888,0.5905936339087443,0.590037000080474,0.5806315595697181,0.5755658060739163,0.5571043316910277,0.5386307733405047,0.5128703254006798,0.3714169195883745,0.39990348252234054,0.31394517252254983,0.3027886215545436,0.29731899018725444,0.29108785932713155,0.28716192106297905,0.30942207524918036,0.2864003171655845,0.25228624811059447,0.2096576097757755,0.15313206626922982,0.15203593849391356,0.0983102756661544,0.09588576896842252,0.04415640337543418,0.030968637990297337],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.021038216659635,5.991022340545899,5.988700019895091,5.976859181457944,5.959451503299094,5.956756938360131,5.926356199507796,5.920934734850604,5.915271416559865,5.915061371936819,5.907252654185898,5.890169112472876,5.889465108091749,5.876037499511035,5.861528121688972,5.857450784888648,5.853285118935204,5.852051402519736,5.839481322800572,5.811941291818071,5.765169953702905,5.760489034356255,5.746721516266655,5.745451521806155,5.74110315120563,5.732153515226894,5.72734483406948,5.7203297642747275,5.701055606987425,5.6949067412389045,5.682004375658,5.654993530941072,5.644564118763173,5.639221782305651,5.608472984528518,5.6038677758845425,5.603298631192557,5.593681794646496,5.5885021836228495,5.569625770408977,5.550737001629042,5.524397563629588,5.443514084924695,5.408891685745063,5.374886276215356,5.361564084272742,5.355032721745081,5.347592042132165,5.3429040249071384,5.316376624572918,5.2928374310349104,5.257956616505522,5.214369859821634,5.1828571200237565,5.181548218674381,5.100519890673746,5.0980408909299,5.052727772494386,5.031664686971997],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,840\u003cbr\u003etok\u002fs: 621,437\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,698\u003cbr\u003etok\u002fs: 603,168\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,610\u003cbr\u003etok\u002fs: 601,755\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,159\u003cbr\u003etok\u002fs: 594,548\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,497\u003cbr\u003etok\u002fs: 583,953\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,395\u003cbr\u003etok\u002fs: 582,313\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,238\u003cbr\u003etok\u002fs: 563,811\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,032\u003cbr\u003etok\u002fs: 560,511\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,816\u003cbr\u003etok\u002fs: 557,064\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,809\u003cbr\u003etok\u002fs: 556,936\u003cbr\u003eGPU memory: 67.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,511\u003cbr\u003etok\u002fs: 552,184\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,862\u003cbr\u003etok\u002fs: 541,786\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,835\u003cbr\u003etok\u002fs: 541,357\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,324\u003cbr\u003etok\u002fs: 533,185\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,772\u003cbr\u003etok\u002fs: 524,354\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,617\u003cbr\u003etok\u002fs: 521,872\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,459\u003cbr\u003etok\u002fs: 519,337\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,412\u003cbr\u003etok\u002fs: 518,586\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,933\u003cbr\u003etok\u002fs: 510,936\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,886\u003cbr\u003etok\u002fs: 494,174\u003cbr\u003eGPU memory: 45.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,107\u003cbr\u003etok\u002fs: 465,707\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,929\u003cbr\u003etok\u002fs: 462,858\u003cbr\u003eGPU memory: 49.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,405\u003cbr\u003etok\u002fs: 454,479\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,357\u003cbr\u003etok\u002fs: 453,706\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,191\u003cbr\u003etok\u002fs: 451,060\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,851\u003cbr\u003etok\u002fs: 445,612\u003cbr\u003eGPU memory: 40.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,668\u003cbr\u003etok\u002fs: 442,686\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,401\u003cbr\u003etok\u002fs: 438,416\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,668\u003cbr\u003etok\u002fs: 426,685\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,434\u003cbr\u003etok\u002fs: 422,943\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,943\u003cbr\u003etok\u002fs: 415,090\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,916\u003cbr\u003etok\u002fs: 398,650\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,519\u003cbr\u003etok\u002fs: 392,303\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,316\u003cbr\u003etok\u002fs: 389,051\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,146\u003cbr\u003etok\u002fs: 370,336\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,971\u003cbr\u003etok\u002fs: 367,534\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,949\u003cbr\u003etok\u002fs: 367,187\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,583\u003cbr\u003etok\u002fs: 361,334\u003cbr\u003eGPU memory: 59.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,386\u003cbr\u003etok\u002fs: 358,182\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,668\u003cbr\u003etok\u002fs: 346,693\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,950\u003cbr\u003etok\u002fs: 335,196\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,948\u003cbr\u003etok\u002fs: 319,165\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,871\u003cbr\u003etok\u002fs: 269,937\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,554\u003cbr\u003etok\u002fs: 248,865\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,260\u003cbr\u003etok\u002fs: 228,168\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,754\u003cbr\u003etok\u002fs: 220,060\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,505\u003cbr\u003etok\u002fs: 216,084\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,222\u003cbr\u003etok\u002fs: 211,556\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,044\u003cbr\u003etok\u002fs: 208,703\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,035\u003cbr\u003etok\u002fs: 192,557\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,139\u003cbr\u003etok\u002fs: 178,230\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,813\u003cbr\u003etok\u002fs: 157,001\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,155\u003cbr\u003etok\u002fs: 130,472\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,956\u003cbr\u003etok\u002fs: 111,293\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,906\u003cbr\u003etok\u002fs: 110,496\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,824\u003cbr\u003etok\u002fs: 61,180\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,729\u003cbr\u003etok\u002fs: 59,671\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,006\u003cbr\u003etok\u002fs: 32,092\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,205\u003cbr\u003etok\u002fs: 19,272\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,840\u003cbr\u003etok\u002fs: 621,437\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,698\u003cbr\u003etok\u002fs: 603,168\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,610\u003cbr\u003etok\u002fs: 601,755\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,159\u003cbr\u003etok\u002fs: 594,548\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,497\u003cbr\u003etok\u002fs: 583,953\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,395\u003cbr\u003etok\u002fs: 582,313\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,238\u003cbr\u003etok\u002fs: 563,811\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,032\u003cbr\u003etok\u002fs: 560,511\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,816\u003cbr\u003etok\u002fs: 557,064\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,809\u003cbr\u003etok\u002fs: 556,936\u003cbr\u003eGPU memory: 67.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,511\u003cbr\u003etok\u002fs: 552,184\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,862\u003cbr\u003etok\u002fs: 541,786\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,835\u003cbr\u003etok\u002fs: 541,357\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,324\u003cbr\u003etok\u002fs: 533,185\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,772\u003cbr\u003etok\u002fs: 524,354\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,617\u003cbr\u003etok\u002fs: 521,872\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,459\u003cbr\u003etok\u002fs: 519,337\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,412\u003cbr\u003etok\u002fs: 518,586\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,933\u003cbr\u003etok\u002fs: 510,936\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,886\u003cbr\u003etok\u002fs: 494,174\u003cbr\u003eGPU memory: 45.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,107\u003cbr\u003etok\u002fs: 465,707\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,929\u003cbr\u003etok\u002fs: 462,858\u003cbr\u003eGPU memory: 49.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,405\u003cbr\u003etok\u002fs: 454,479\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,357\u003cbr\u003etok\u002fs: 453,706\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,191\u003cbr\u003etok\u002fs: 451,060\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,851\u003cbr\u003etok\u002fs: 445,612\u003cbr\u003eGPU memory: 40.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,668\u003cbr\u003etok\u002fs: 442,686\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,401\u003cbr\u003etok\u002fs: 438,416\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,668\u003cbr\u003etok\u002fs: 426,685\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,434\u003cbr\u003etok\u002fs: 422,943\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,943\u003cbr\u003etok\u002fs: 415,090\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,916\u003cbr\u003etok\u002fs: 398,650\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,519\u003cbr\u003etok\u002fs: 392,303\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,316\u003cbr\u003etok\u002fs: 389,051\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,146\u003cbr\u003etok\u002fs: 370,336\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,971\u003cbr\u003etok\u002fs: 367,534\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,949\u003cbr\u003etok\u002fs: 367,187\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,583\u003cbr\u003etok\u002fs: 361,334\u003cbr\u003eGPU memory: 59.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,386\u003cbr\u003etok\u002fs: 358,182\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,668\u003cbr\u003etok\u002fs: 346,693\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,950\u003cbr\u003etok\u002fs: 335,196\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,948\u003cbr\u003etok\u002fs: 319,165\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,871\u003cbr\u003etok\u002fs: 269,937\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,554\u003cbr\u003etok\u002fs: 248,865\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,260\u003cbr\u003etok\u002fs: 228,168\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,754\u003cbr\u003etok\u002fs: 220,060\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,505\u003cbr\u003etok\u002fs: 216,084\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,222\u003cbr\u003etok\u002fs: 211,556\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,044\u003cbr\u003etok\u002fs: 208,703\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,035\u003cbr\u003etok\u002fs: 192,557\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,139\u003cbr\u003etok\u002fs: 178,230\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,813\u003cbr\u003etok\u002fs: 157,001\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,155\u003cbr\u003etok\u002fs: 130,472\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,956\u003cbr\u003etok\u002fs: 111,293\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,906\u003cbr\u003etok\u002fs: 110,496\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,824\u003cbr\u003etok\u002fs: 61,180\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,729\u003cbr\u003etok\u002fs: 59,671\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,006\u003cbr\u003etok\u002fs: 32,092\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,205\u003cbr\u003etok\u002fs: 19,272\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8143348769856557,0.7914592913248123,0.778618591435101,0.8658566466064231,0.844440770689745,0.7068245337288362,0.8254499156821874,0.7892525191858695,0.7882125266522189,0.7588412863409256,0.7214077256661672,0.7187384543474129,0.700227615671209,0.5936160432118219,0.6880210086204968,0.5889810011990666,0.6551811553867113,0.6544540604830861,0.6473761978232916,0.5896837368564354,0.5806518709195718,0.5801708261654407,0.4904761214443737,0.558676275906291,0.5420204548148311,0.5350449202213884,0.5269764293212589,0.5231476113209808,0.4971781364516482,0.4914369662967858,0.4833844159497059,0.47423428139344076,0.4701689261543595,0.4640858054260099,0.4601096658628686,0.45865059104742545,0.3940792672282026,0.3033762024005607,0.29544661285665286,0.336463423758263,0.2969305950891269,0.2617559650449382,0.21752159262482426,0.24140784907690055,0.2402745271762004,0.2373147264228293,0.18063278718446554,0.20629209623671818,0.19828813886587077,0.1903921658866508,0.158309998640276,0.15765373093627563,0.1527221466231887,0.1055459431485351,0.12163284741214117,0.10885366598010873,0.10066947751752109,0.08748406908841376,0.08095461287467047,0.06021003992594326,0.05736002330406013,0.04380526382901332,0.04359634130264754,0.04136798112153662,0.029840715309178593,0.02653022238871244,0.009721612056676328,0.00713725407518953],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.944817097663862,6.890184990689686,6.859518475724835,6.770635162321644,6.726840726974167,6.688057919528777,6.688005342651919,6.613983409261354,6.611856674592456,6.5517939020076374,6.475244072377749,6.469785541022372,6.431931766991059,6.417690268356585,6.40696984316528,6.406620732702944,6.339813924123575,6.338327050046036,6.323853161615851,6.205874856097088,6.18740512502571,6.186421411659701,6.171368651815311,6.142466091069039,6.108405738703016,6.094141106242726,6.07764143074721,6.069811682245546,6.016705356237784,6.004964939635436,5.988497861803572,5.969786277098648,5.961472821329893,5.949033132265336,5.9409021182592765,5.937918380497596,5.805873131575527,5.724531445388819,5.705593780113406,5.6880515051498,5.607208773524472,5.535278348295311,5.5194910894812175,5.493667430643739,5.4913498419118465,5.485297191847977,5.431392223080744,5.421857406462582,5.405489698927979,5.389342814276178,5.378080321484468,5.376513004785337,5.364735258600421,5.252067743413064,5.248733317882742,5.222600507009339,5.2058642355679625,5.178900710040207,5.165548286393399,5.1231266333006795,5.117298486500992,5.10461694380289,5.104117989241509,5.098796157765962,5.061022826356242,5.054253027692031,5.023217423051638,5.014595341015727],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,990\u003cbr\u003etok\u002fs: 1,183,679\u003cbr\u003eGPU memory: 34.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,951\u003cbr\u003etok\u002fs: 1,150,428\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,368\u003cbr\u003etok\u002fs: 1,131,764\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,677\u003cbr\u003etok\u002fs: 1,077,666\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,844\u003cbr\u003etok\u002fs: 1,051,012\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,106\u003cbr\u003etok\u002fs: 1,027,407\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,105\u003cbr\u003etok\u002fs: 1,027,375\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,698\u003cbr\u003etok\u002fs: 982,323\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,657\u003cbr\u003etok\u002fs: 981,028\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,515\u003cbr\u003etok\u002fs: 944,472\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,059\u003cbr\u003etok\u002fs: 897,882\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,955\u003cbr\u003etok\u002fs: 894,559\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,235\u003cbr\u003etok\u002fs: 871,520\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,964\u003cbr\u003etok\u002fs: 862,852\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,760\u003cbr\u003etok\u002fs: 856,328\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,754\u003cbr\u003etok\u002fs: 856,115\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,483\u003cbr\u003etok\u002fs: 815,454\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,455\u003cbr\u003etok\u002fs: 814,549\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,179\u003cbr\u003etok\u002fs: 805,740\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,935\u003cbr\u003etok\u002fs: 733,935\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,584\u003cbr\u003etok\u002fs: 722,693\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,565\u003cbr\u003etok\u002fs: 722,095\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,279\u003cbr\u003etok\u002fs: 712,933\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,729\u003cbr\u003etok\u002fs: 695,342\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,082\u003cbr\u003etok\u002fs: 674,612\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,810\u003cbr\u003etok\u002fs: 665,930\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,496\u003cbr\u003etok\u002fs: 655,888\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,348\u003cbr\u003etok\u002fs: 651,122\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,338\u003cbr\u003etok\u002fs: 618,800\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,114\u003cbr\u003etok\u002fs: 611,654\u003cbr\u003eGPU memory: 44.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,801\u003cbr\u003etok\u002fs: 601,632\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,445\u003cbr\u003etok\u002fs: 590,244\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,287\u003cbr\u003etok\u002fs: 585,184\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,050\u003cbr\u003etok\u002fs: 577,612\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,896\u003cbr\u003etok\u002fs: 572,664\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,839\u003cbr\u003etok\u002fs: 570,848\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,328\u003cbr\u003etok\u002fs: 490,481\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,780\u003cbr\u003etok\u002fs: 440,973\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,420\u003cbr\u003etok\u002fs: 429,447\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,087\u003cbr\u003etok\u002fs: 418,771\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,549\u003cbr\u003etok\u002fs: 369,567\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,181\u003cbr\u003etok\u002fs: 325,788\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,881\u003cbr\u003etok\u002fs: 316,179\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,389\u003cbr\u003etok\u002fs: 300,462\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,345\u003cbr\u003etok\u002fs: 299,052\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,230\u003cbr\u003etok\u002fs: 295,368\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,205\u003cbr\u003etok\u002fs: 262,559\u003cbr\u003eGPU memory: 51.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,024\u003cbr\u003etok\u002fs: 256,756\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,712\u003cbr\u003etok\u002fs: 246,794\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,405\u003cbr\u003etok\u002fs: 236,967\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,191\u003cbr\u003etok\u002fs: 230,112\u003cbr\u003eGPU memory: 37.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,161\u003cbr\u003etok\u002fs: 229,158\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,937\u003cbr\u003etok\u002fs: 221,990\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,860\u003cbr\u003etok\u002fs: 219,510\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,794\u003cbr\u003etok\u002fs: 153,417\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 151,387\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,234\u003cbr\u003etok\u002fs: 135,482\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,915\u003cbr\u003etok\u002fs: 125,296\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,403\u003cbr\u003etok\u002fs: 108,885\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,149\u003cbr\u003etok\u002fs: 100,758\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,342\u003cbr\u003etok\u002fs: 74,939\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,231\u003cbr\u003etok\u002fs: 71,392\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,990\u003cbr\u003etok\u002fs: 63,673\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,980\u003cbr\u003etok\u002fs: 63,370\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,879\u003cbr\u003etok\u002fs: 60,131\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 37,140\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 33,020\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 442\u003cbr\u003etok\u002fs: 14,131\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 8,883\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,990\u003cbr\u003etok\u002fs: 1,183,679\u003cbr\u003eGPU memory: 34.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,951\u003cbr\u003etok\u002fs: 1,150,428\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,368\u003cbr\u003etok\u002fs: 1,131,764\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,677\u003cbr\u003etok\u002fs: 1,077,666\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,844\u003cbr\u003etok\u002fs: 1,051,012\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,106\u003cbr\u003etok\u002fs: 1,027,407\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,105\u003cbr\u003etok\u002fs: 1,027,375\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,698\u003cbr\u003etok\u002fs: 982,323\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,657\u003cbr\u003etok\u002fs: 981,028\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,515\u003cbr\u003etok\u002fs: 944,472\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,059\u003cbr\u003etok\u002fs: 897,882\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,955\u003cbr\u003etok\u002fs: 894,559\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,235\u003cbr\u003etok\u002fs: 871,520\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,964\u003cbr\u003etok\u002fs: 862,852\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,760\u003cbr\u003etok\u002fs: 856,328\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,754\u003cbr\u003etok\u002fs: 856,115\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,483\u003cbr\u003etok\u002fs: 815,454\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,455\u003cbr\u003etok\u002fs: 814,549\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,179\u003cbr\u003etok\u002fs: 805,740\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,935\u003cbr\u003etok\u002fs: 733,935\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,584\u003cbr\u003etok\u002fs: 722,693\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,565\u003cbr\u003etok\u002fs: 722,095\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,279\u003cbr\u003etok\u002fs: 712,933\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,729\u003cbr\u003etok\u002fs: 695,342\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,082\u003cbr\u003etok\u002fs: 674,612\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,810\u003cbr\u003etok\u002fs: 665,930\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,496\u003cbr\u003etok\u002fs: 655,888\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,348\u003cbr\u003etok\u002fs: 651,122\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,338\u003cbr\u003etok\u002fs: 618,800\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,114\u003cbr\u003etok\u002fs: 611,654\u003cbr\u003eGPU memory: 44.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,801\u003cbr\u003etok\u002fs: 601,632\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,445\u003cbr\u003etok\u002fs: 590,244\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,287\u003cbr\u003etok\u002fs: 585,184\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,050\u003cbr\u003etok\u002fs: 577,612\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,896\u003cbr\u003etok\u002fs: 572,664\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,839\u003cbr\u003etok\u002fs: 570,848\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,328\u003cbr\u003etok\u002fs: 490,481\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,780\u003cbr\u003etok\u002fs: 440,973\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,420\u003cbr\u003etok\u002fs: 429,447\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,087\u003cbr\u003etok\u002fs: 418,771\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,549\u003cbr\u003etok\u002fs: 369,567\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,181\u003cbr\u003etok\u002fs: 325,788\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,881\u003cbr\u003etok\u002fs: 316,179\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,389\u003cbr\u003etok\u002fs: 300,462\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,345\u003cbr\u003etok\u002fs: 299,052\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,230\u003cbr\u003etok\u002fs: 295,368\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,205\u003cbr\u003etok\u002fs: 262,559\u003cbr\u003eGPU memory: 51.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,024\u003cbr\u003etok\u002fs: 256,756\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,712\u003cbr\u003etok\u002fs: 246,794\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,405\u003cbr\u003etok\u002fs: 236,967\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,191\u003cbr\u003etok\u002fs: 230,112\u003cbr\u003eGPU memory: 37.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,161\u003cbr\u003etok\u002fs: 229,158\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,937\u003cbr\u003etok\u002fs: 221,990\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,860\u003cbr\u003etok\u002fs: 219,510\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,794\u003cbr\u003etok\u002fs: 153,417\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 151,387\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,234\u003cbr\u003etok\u002fs: 135,482\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,915\u003cbr\u003etok\u002fs: 125,296\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,403\u003cbr\u003etok\u002fs: 108,885\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,149\u003cbr\u003etok\u002fs: 100,758\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,342\u003cbr\u003etok\u002fs: 74,939\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,231\u003cbr\u003etok\u002fs: 71,392\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,990\u003cbr\u003etok\u002fs: 63,673\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,980\u003cbr\u003etok\u002fs: 63,370\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,879\u003cbr\u003etok\u002fs: 60,131\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 37,140\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 33,020\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 442\u003cbr\u003etok\u002fs: 14,131\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 8,883\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.35294117647058826,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.6890031560345948,0.6849363216515024,0.6789850016775869,0.6666838898933789,0.6289693011059201,0.7326000507526639,0.691560068503241,0.5850438352754361,0.6429969165314077,0.6424263989956422,0.5470437116969379,0.6142936368140387,0.6113654600610728,0.5965374033507556,0.5946739012780979,0.5077204855015185,0.5629136348548933,0.5477636818152485,0.540562151316471,0.5227858636090286,0.5107435470970066,0.49850865841991576,0.490799601280489,0.48059379074321784,0.45152259277723245,0.4496701462494321,0.4491849878041913,0.4489633626956605,0.4449831094414095,0.44190221190599904,0.4401870598189821,0.3693637989551953,0.428270467991498,0.353487228002698,0.4109158336227914,0.41072506119758284,0.39250269511044095,0.3762662134064678,0.3717504089908832,0.3682884808164442,0.3584909541218027,0.296531733122677,0.34155668756336044,0.3320838853606845,0.281890865163321,0.3217328101061049,0.295488489249511,0.2827650997531528,0.26473710557094043,0.20851216641935252,0.2418156187081415,0.22349812351408976,0.21922476976827832,0.2026730764830306,0.19150311959194238,0.19147869455097902,0.1908063631602506,0.18988438214030717,0.1892650145226151,0.1878285650082749,0.15165133611924445,0.145822639798844,0.1567707113420377,0.11125267626597808,0.12455742468538618,0.12152537723190236,0.12116774321105984,0.10813916925550673,0.1039586306653561,0.10306390284901389,0.09764668586903394,0.08467158989790588,0.08208150713301182,0.06528453501535306,0.06206608593346464,0.06093687772387413,0.05342013564382222,0.05221662388856421,0.043609110013426496,0.03090127629837732,0.030392721234950636,0.027412866237420137,0.02565503460514093,0.024307029449657545,0.02288317811434055,0.017672931218313325,0.01395492577230051,0.0096888096789856,0.009688369378613913,0.007857664230761615,0.006998674105934228,0.00626026655175756,0.0029315191269924717,0.0011307508437566106],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[8.290992823887231,8.271567770963347,8.243141556721408,8.184385845295274,8.004243795192455,7.996263676822977,7.828414100529512,7.794435768091388,7.629795484361324,7.627462122566374,7.6129298738028774,7.512401833713219,7.500425872702548,7.439780548322146,7.4321590042528385,7.425104238916058,7.3022625722879475,7.2403007229110266,7.2108471564952845,7.138143851176313,7.088891936010997,7.03885241923035,7.007323117716263,6.965582335178851,6.8466839343150765,6.8391076063598675,6.837123355027254,6.8362169296702255,6.819938077057512,6.807337502749771,6.8003226958394025,6.764249700627263,6.751584982529755,6.688415968060179,6.68060619877172,6.67982595791915,6.605298234973214,6.53889258796427,6.52042338266166,6.506264429723854,6.466193488795447,6.416370588747455,6.396933968910662,6.358191119891683,6.346439136376427,6.315856218645779,6.208519473003036,6.156482034901793,6.0827492743339455,5.99594905679186,5.989002599821407,5.914085807986722,5.896608202581651,5.828913370552154,5.783229322250408,5.783129426184378,5.780379655524715,5.776608841916474,5.774075687989464,5.768200747769374,5.724355838620114,5.696515330786369,5.641177116355993,5.531393442864287,5.509427875250634,5.497027093074952,5.495564404360768,5.442278791202921,5.4251807908487635,5.42152144021946,5.399365544311581,5.3462986509614625,5.335705461812153,5.267007462972209,5.253844316082089,5.249225963218899,5.218483211782605,5.213560964571177,5.208296967660173,5.126383245053252,5.124303303804758,5.112115983749118,5.104926621607582,5.099413410300273,5.093589995419502,5.072280587229034,5.057074302904221,5.0462781670102395,5.0462760639351645,5.032137090210564,5.028623903298926,5.025603887492213,5.011989630998654,5.004624662088412],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,297\u003cbr\u003etok\u002fs: 2,003,005\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,112\u003cbr\u003etok\u002fs: 1,991,183\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,842\u003cbr\u003etok\u002fs: 1,973,882\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,283\u003cbr\u003etok\u002fs: 1,938,121\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,570\u003cbr\u003etok\u002fs: 1,828,481\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,494\u003cbr\u003etok\u002fs: 1,823,624\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,898\u003cbr\u003etok\u002fs: 1,721,465\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,575\u003cbr\u003etok\u002fs: 1,700,785\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,009\u003cbr\u003etok\u002fs: 1,600,579\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,987\u003cbr\u003etok\u002fs: 1,599,159\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,849\u003cbr\u003etok\u002fs: 1,590,314\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,893\u003cbr\u003etok\u002fs: 1,529,130\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,779\u003cbr\u003etok\u002fs: 1,521,841\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,202\u003cbr\u003etok\u002fs: 1,484,930\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,130\u003cbr\u003etok\u002fs: 1,480,291\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,062\u003cbr\u003etok\u002fs: 1,475,997\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,894\u003cbr\u003etok\u002fs: 1,401,232\u003cbr\u003eGPU memory: 40.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,305\u003cbr\u003etok\u002fs: 1,363,520\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,025\u003cbr\u003etok\u002fs: 1,345,594\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,334\u003cbr\u003etok\u002fs: 1,301,344\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,865\u003cbr\u003etok\u002fs: 1,271,368\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,389\u003cbr\u003etok\u002fs: 1,240,912\u003cbr\u003eGPU memory: 40.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,259\u003cbr\u003etok\u002fs: 1,232,559\u003cbr\u003eGPU memory: 44.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,089\u003cbr\u003etok\u002fs: 1,221,722\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,692\u003cbr\u003etok\u002fs: 1,196,317\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,562\u003cbr\u003etok\u002fs: 1,123,952\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,490\u003cbr\u003etok\u002fs: 1,119,341\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,471\u003cbr\u003etok\u002fs: 1,118,133\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,462\u003cbr\u003etok\u002fs: 1,117,581\u003cbr\u003eGPU memory: 26.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,307\u003cbr\u003etok\u002fs: 1,107,674\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,188\u003cbr\u003etok\u002fs: 1,100,004\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,121\u003cbr\u003etok\u002fs: 1,095,735\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,778\u003cbr\u003etok\u002fs: 1,073,780\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,657\u003cbr\u003etok\u002fs: 1,066,072\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,603\u003cbr\u003etok\u002fs: 1,062,580\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,057\u003cbr\u003etok\u002fs: 1,027,625\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,982\u003cbr\u003etok\u002fs: 1,022,872\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,975\u003cbr\u003etok\u002fs: 1,022,397\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,266\u003cbr\u003etok\u002fs: 977,037\u003cbr\u003eGPU memory: 43.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,635\u003cbr\u003etok\u002fs: 936,620\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,459\u003cbr\u003etok\u002fs: 925,379\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,324\u003cbr\u003etok\u002fs: 916,762\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,943\u003cbr\u003etok\u002fs: 892,373\u003cbr\u003eGPU memory: 53.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,470\u003cbr\u003etok\u002fs: 862,049\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,285\u003cbr\u003etok\u002fs: 850,220\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,916\u003cbr\u003etok\u002fs: 826,639\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,804\u003cbr\u003etok\u002fs: 819,487\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,514\u003cbr\u003etok\u002fs: 800,873\u003cbr\u003eGPU memory: 63.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,493\u003cbr\u003etok\u002fs: 735,544\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,998\u003cbr\u003etok\u002fs: 703,873\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,297\u003cbr\u003etok\u002fs: 658,996\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,471\u003cbr\u003etok\u002fs: 606,167\u003cbr\u003eGPU memory: 24.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 601,939\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,693\u003cbr\u003etok\u002fs: 556,342\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,527\u003cbr\u003etok\u002fs: 545,705\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,883\u003cbr\u003etok\u002fs: 504,504\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,448\u003cbr\u003etok\u002fs: 476,699\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,447\u003cbr\u003etok\u002fs: 476,638\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,421\u003cbr\u003etok\u002fs: 474,964\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,385\u003cbr\u003etok\u002fs: 472,669\u003cbr\u003eGPU memory: 16.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,361\u003cbr\u003etok\u002fs: 471,128\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,306\u003cbr\u003etok\u002fs: 467,552\u003cbr\u003eGPU memory: 28.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,889\u003cbr\u003etok\u002fs: 440,867\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,624\u003cbr\u003etok\u002fs: 423,922\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,098\u003cbr\u003etok\u002fs: 390,241\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,053\u003cbr\u003etok\u002fs: 323,423\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,845\u003cbr\u003etok\u002fs: 310,054\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,727\u003cbr\u003etok\u002fs: 302,507\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,713\u003cbr\u003etok\u002fs: 301,617\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,206\u003cbr\u003etok\u002fs: 269,185\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,043\u003cbr\u003etok\u002fs: 258,779\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,009\u003cbr\u003etok\u002fs: 256,552\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,798\u003cbr\u003etok\u002fs: 243,067\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,293\u003cbr\u003etok\u002fs: 210,769\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,193\u003cbr\u003etok\u002fs: 204,321\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,539\u003cbr\u003etok\u002fs: 162,509\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,414\u003cbr\u003etok\u002fs: 154,498\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,370\u003cbr\u003etok\u002fs: 151,687\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,078\u003cbr\u003etok\u002fs: 132,976\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,031\u003cbr\u003etok\u002fs: 129,980\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,981\u003cbr\u003etok\u002fs: 126,776\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,202\u003cbr\u003etok\u002fs: 76,921\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,182\u003cbr\u003etok\u002fs: 75,655\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,066\u003cbr\u003etok\u002fs: 68,237\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 998\u003cbr\u003etok\u002fs: 63,862\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 945\u003cbr\u003etok\u002fs: 60,506\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 890\u003cbr\u003etok\u002fs: 56,962\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 43,992\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 543\u003cbr\u003etok\u002fs: 34,737\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,166\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,165\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 306\u003cbr\u003etok\u002fs: 19,560\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 272\u003cbr\u003etok\u002fs: 17,421\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 243\u003cbr\u003etok\u002fs: 15,583\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 7,297\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 2,815\u003cbr\u003eGPU memory: 1.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 3\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,297\u003cbr\u003etok\u002fs: 2,003,005\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,112\u003cbr\u003etok\u002fs: 1,991,183\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,842\u003cbr\u003etok\u002fs: 1,973,882\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,283\u003cbr\u003etok\u002fs: 1,938,121\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,570\u003cbr\u003etok\u002fs: 1,828,481\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,494\u003cbr\u003etok\u002fs: 1,823,624\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,898\u003cbr\u003etok\u002fs: 1,721,465\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,575\u003cbr\u003etok\u002fs: 1,700,785\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,009\u003cbr\u003etok\u002fs: 1,600,579\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,987\u003cbr\u003etok\u002fs: 1,599,159\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,849\u003cbr\u003etok\u002fs: 1,590,314\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,893\u003cbr\u003etok\u002fs: 1,529,130\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,779\u003cbr\u003etok\u002fs: 1,521,841\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,202\u003cbr\u003etok\u002fs: 1,484,930\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,130\u003cbr\u003etok\u002fs: 1,480,291\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,062\u003cbr\u003etok\u002fs: 1,475,997\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,894\u003cbr\u003etok\u002fs: 1,401,232\u003cbr\u003eGPU memory: 40.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,305\u003cbr\u003etok\u002fs: 1,363,520\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,025\u003cbr\u003etok\u002fs: 1,345,594\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,334\u003cbr\u003etok\u002fs: 1,301,344\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,865\u003cbr\u003etok\u002fs: 1,271,368\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,389\u003cbr\u003etok\u002fs: 1,240,912\u003cbr\u003eGPU memory: 40.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,259\u003cbr\u003etok\u002fs: 1,232,559\u003cbr\u003eGPU memory: 44.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,089\u003cbr\u003etok\u002fs: 1,221,722\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,692\u003cbr\u003etok\u002fs: 1,196,317\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,562\u003cbr\u003etok\u002fs: 1,123,952\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,490\u003cbr\u003etok\u002fs: 1,119,341\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,471\u003cbr\u003etok\u002fs: 1,118,133\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,462\u003cbr\u003etok\u002fs: 1,117,581\u003cbr\u003eGPU memory: 26.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,307\u003cbr\u003etok\u002fs: 1,107,674\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,188\u003cbr\u003etok\u002fs: 1,100,004\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,121\u003cbr\u003etok\u002fs: 1,095,735\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,778\u003cbr\u003etok\u002fs: 1,073,780\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,657\u003cbr\u003etok\u002fs: 1,066,072\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,603\u003cbr\u003etok\u002fs: 1,062,580\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,057\u003cbr\u003etok\u002fs: 1,027,625\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,982\u003cbr\u003etok\u002fs: 1,022,872\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,975\u003cbr\u003etok\u002fs: 1,022,397\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,266\u003cbr\u003etok\u002fs: 977,037\u003cbr\u003eGPU memory: 43.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,635\u003cbr\u003etok\u002fs: 936,620\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,459\u003cbr\u003etok\u002fs: 925,379\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,324\u003cbr\u003etok\u002fs: 916,762\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,943\u003cbr\u003etok\u002fs: 892,373\u003cbr\u003eGPU memory: 53.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,470\u003cbr\u003etok\u002fs: 862,049\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,285\u003cbr\u003etok\u002fs: 850,220\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,916\u003cbr\u003etok\u002fs: 826,639\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,804\u003cbr\u003etok\u002fs: 819,487\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,514\u003cbr\u003etok\u002fs: 800,873\u003cbr\u003eGPU memory: 63.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,493\u003cbr\u003etok\u002fs: 735,544\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,998\u003cbr\u003etok\u002fs: 703,873\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,297\u003cbr\u003etok\u002fs: 658,996\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,471\u003cbr\u003etok\u002fs: 606,167\u003cbr\u003eGPU memory: 24.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 601,939\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,693\u003cbr\u003etok\u002fs: 556,342\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,527\u003cbr\u003etok\u002fs: 545,705\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,883\u003cbr\u003etok\u002fs: 504,504\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,448\u003cbr\u003etok\u002fs: 476,699\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,447\u003cbr\u003etok\u002fs: 476,638\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,421\u003cbr\u003etok\u002fs: 474,964\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,385\u003cbr\u003etok\u002fs: 472,669\u003cbr\u003eGPU memory: 16.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,361\u003cbr\u003etok\u002fs: 471,128\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,306\u003cbr\u003etok\u002fs: 467,552\u003cbr\u003eGPU memory: 28.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,889\u003cbr\u003etok\u002fs: 440,867\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,624\u003cbr\u003etok\u002fs: 423,922\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,098\u003cbr\u003etok\u002fs: 390,241\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,053\u003cbr\u003etok\u002fs: 323,423\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,845\u003cbr\u003etok\u002fs: 310,054\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,727\u003cbr\u003etok\u002fs: 302,507\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,713\u003cbr\u003etok\u002fs: 301,617\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,206\u003cbr\u003etok\u002fs: 269,185\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,043\u003cbr\u003etok\u002fs: 258,779\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,009\u003cbr\u003etok\u002fs: 256,552\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,798\u003cbr\u003etok\u002fs: 243,067\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,293\u003cbr\u003etok\u002fs: 210,769\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,193\u003cbr\u003etok\u002fs: 204,321\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,539\u003cbr\u003etok\u002fs: 162,509\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,414\u003cbr\u003etok\u002fs: 154,498\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,370\u003cbr\u003etok\u002fs: 151,687\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,078\u003cbr\u003etok\u002fs: 132,976\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,031\u003cbr\u003etok\u002fs: 129,980\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,981\u003cbr\u003etok\u002fs: 126,776\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,202\u003cbr\u003etok\u002fs: 76,921\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,182\u003cbr\u003etok\u002fs: 75,655\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,066\u003cbr\u003etok\u002fs: 68,237\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 998\u003cbr\u003etok\u002fs: 63,862\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 945\u003cbr\u003etok\u002fs: 60,506\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 890\u003cbr\u003etok\u002fs: 56,962\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 43,992\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 543\u003cbr\u003etok\u002fs: 34,737\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,166\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,165\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 306\u003cbr\u003etok\u002fs: 19,560\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 272\u003cbr\u003etok\u002fs: 17,421\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 243\u003cbr\u003etok\u002fs: 15,583\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 7,297\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 2,815\u003cbr\u003eGPU memory: 1.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 3\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.4117647058823529,0.17647058823529413,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354],"y":[0.46849999999999986,0.45549999999999985,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.6645479927903223,0.662383696313292,0.6278212178867447,0.5822188680906885,0.5780573691276831,0.5704219002320626,0.5661923748616315,0.5550278984869349,0.5504298417054013,0.5396585535626218,0.5392319025024566,0.52332032767041,0.5018131955647718,0.4994895103531906,0.4882823248424402,0.4860671736724799,0.4852451328785392,0.4690581501640022,0.4689267205030534,0.5300506421086163,0.4525836513067531,0.5113109793644398,0.43454476522889807,0.4649831042992956,0.45889201329442114,0.45678194686088075,0.4479043443406279,0.42574748981282956,0.42363356679387393,0.40883096354729753,0.40682168254594275,0.40483091315458136,0.4038441414996614,0.39935893266170464,0.3951737661690557,0.3645321666219731,0.3544191712403627,0.34675742154869665,0.29016190764547245,0.3358864785801388,0.3358671956530625,0.2710788492361604,0.2703483909195305,0.27010380406305806,0.31301821259607077,0.2612211843646325,0.30371484304597224,0.2509670290084,0.2894508762290616,0.28806404811373115,0.28574752580762675,0.22848617263077464,0.2649397048580891,0.25243099861651425,0.22938970050014768,0.22269363979646484,0.1865336927658227,0.20896162466116677,0.17691489084593545,0.1800732288438651,0.17446215417034433,0.14795545479929872,0.16944370812230308,0.14115171330579612,0.16271370946696587,0.16039847268933324,0.15310232729503467,0.14679398197843344,0.12208252435819208,0.11847646431407066,0.13746824423292642,0.10151961639963787,0.11018058846865533,0.09558881189144687,0.09157616331970758,0.0911655655258287,0.08871611957574474,0.07511656431101935,0.08518605839230264,0.07174232241259143,0.08301557212058974,0.07870622357756916,0.07022687777786632,0.06000718353310016,0.05846943437518559,0.04317541414731421,0.04233311953627583,0.04784788393014849,0.047557868706920324,0.047359640216575544,0.04689376469841115,0.04333490767720174,0.038708547813046106,0.032860935900722234,0.030132787377961563,0.029299250716874944,0.02726297361761338,0.027082742525873185,0.02632376651614842,0.024516056379165076,0.020531689433804404,0.019907436807919676,0.0184234227401245,0.01832469415349364,0.01825707535587927,0.016802114231545786,0.014767122660755975,0.012708477366085854,0.01191402077054062,0.009492655863398777,0.009346035839626806,0.008822839007356047,0.008080060656375409,0.0070539518302197395,0.006677806199383922,0.005337771320425426,0.005314374702239465,0.004286466136223336,0.003924204212882484,0.0020504179124508815,0.0010968128921022527],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[11.34836765621957,11.327692325164008,10.997520053872371,10.561884876829202,10.522130448699478,10.44918949589711,10.408785217569427,10.302131971325835,10.25820714532375,10.155309991162879,10.151234231668862,9.999232377597878,9.793776664363099,9.771578706953735,9.664517464145725,9.643356322747996,9.635503440420514,9.480870639431565,9.4796151036122,9.33571219165239,9.323491222395562,9.182425358711,9.151167353881497,8.803472261070693,8.753648309485165,8.736388372350284,8.66377129310936,8.482532489355286,8.465241006094292,8.344158561765843,8.327723030060092,8.311438919759695,8.303367317624485,8.266679172953108,8.232445316893456,7.981802932612006,7.899080577639012,7.836408940424509,7.771890803294761,7.747486720132443,7.74732898950187,7.589592049703235,7.582614046606668,7.5802775301991066,7.560428707647748,7.49542265710076,7.484328936083763,7.397465626289447,7.367652434035999,7.356308447085159,7.337359740665606,7.182708012000988,7.167155771826449,7.064836963311015,6.876363581301307,6.821591094065921,6.78193971661484,6.709265854346909,6.690052160467993,6.472964338997195,6.4270668285754065,6.413405252892675,6.386016906199908,6.348409717721058,6.3309668130547125,6.312028622010532,6.252347557551701,6.200746507528378,6.1662434578592125,6.131795088141979,6.1244637684329275,5.96980783361816,5.901255998495881,5.7818980757283684,5.749075383043579,5.745716772149902,5.72568077591693,5.717581833805754,5.696805555146624,5.6853480021417715,5.679051395369281,5.643801754048735,5.57444233809792,5.490847206969086,5.478268714949625,5.412450877423952,5.404404512189633,5.391386477479641,5.3890142087958175,5.3873927379135225,5.383581965878869,5.35447120070024,5.316628467813067,5.268796128322911,5.246480398709385,5.239662229318465,5.223005874729912,5.221531619102819,5.21532334148345,5.200536620635962,5.167945266209346,5.162838999928916,5.150700050599986,5.1498924697714505,5.1493393610269065,5.137438059181374,5.120792219968193,5.103952897848176,5.097454395868551,5.090682494129266,5.089281846129774,5.072169124250096,5.066093340360408,5.057699967738828,5.05462316890511,5.043661941617795,5.043470561786032,5.035062467638932,5.032099234859227,5.01677202371764,5.0089717182670155],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,186\u003cbr\u003etok\u002fs: 3,863,823\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,088\u003cbr\u003etok\u002fs: 3,851,240\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,518\u003cbr\u003etok\u002fs: 3,650,286\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,446\u003cbr\u003etok\u002fs: 3,385,144\u003cbr\u003eGPU memory: 48.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,257\u003cbr\u003etok\u002fs: 3,360,948\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,911\u003cbr\u003etok\u002fs: 3,316,554\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,718\u003cbr\u003etok\u002fs: 3,291,963\u003cbr\u003eGPU memory: 29.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,211\u003cbr\u003etok\u002fs: 3,227,050\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,002\u003cbr\u003etok\u002fs: 3,200,316\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,513\u003cbr\u003etok\u002fs: 3,137,690\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,494\u003cbr\u003etok\u002fs: 3,135,209\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,771\u003cbr\u003etok\u002fs: 3,042,696\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,794\u003cbr\u003etok\u002fs: 2,917,649\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,689\u003cbr\u003etok\u002fs: 2,904,138\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,180\u003cbr\u003etok\u002fs: 2,838,977\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,079\u003cbr\u003etok\u002fs: 2,826,098\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,042\u003cbr\u003etok\u002fs: 2,821,318\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,306\u003cbr\u003etok\u002fs: 2,727,204\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,300\u003cbr\u003etok\u002fs: 2,726,440\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,616\u003cbr\u003etok\u002fs: 2,638,856\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,558\u003cbr\u003etok\u002fs: 2,631,418\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,887\u003cbr\u003etok\u002fs: 2,545,560\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,739\u003cbr\u003etok\u002fs: 2,526,536\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,085\u003cbr\u003etok\u002fs: 2,314,917\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,848\u003cbr\u003etok\u002fs: 2,284,593\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,766\u003cbr\u003etok\u002fs: 2,274,088\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,421\u003cbr\u003etok\u002fs: 2,229,891\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,559\u003cbr\u003etok\u002fs: 2,119,583\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,477\u003cbr\u003etok\u002fs: 2,109,059\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,901\u003cbr\u003etok\u002fs: 2,035,364\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,823\u003cbr\u003etok\u002fs: 2,025,361\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,746\u003cbr\u003etok\u002fs: 2,015,450\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,707\u003cbr\u003etok\u002fs: 2,010,537\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,533\u003cbr\u003etok\u002fs: 1,988,207\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,370\u003cbr\u003etok\u002fs: 1,967,372\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,178\u003cbr\u003etok\u002fs: 1,814,822\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,785\u003cbr\u003etok\u002fs: 1,764,475\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,487\u003cbr\u003etok\u002fs: 1,726,331\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,180\u003cbr\u003etok\u002fs: 1,687,063\u003cbr\u003eGPU memory: 41.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,064\u003cbr\u003etok\u002fs: 1,672,210\u003cbr\u003eGPU memory: 28.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,063\u003cbr\u003etok\u002fs: 1,672,114\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,313\u003cbr\u003etok\u002fs: 1,576,110\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,280\u003cbr\u003etok\u002fs: 1,571,863\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,269\u003cbr\u003etok\u002fs: 1,570,441\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,175\u003cbr\u003etok\u002fs: 1,558,360\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,866\u003cbr\u003etok\u002fs: 1,518,796\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,813\u003cbr\u003etok\u002fs: 1,512,044\u003cbr\u003eGPU memory: 32.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,400\u003cbr\u003etok\u002fs: 1,459,176\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,258\u003cbr\u003etok\u002fs: 1,441,030\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,204\u003cbr\u003etok\u002fs: 1,434,126\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,114\u003cbr\u003etok\u002fs: 1,422,593\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,379\u003cbr\u003etok\u002fs: 1,328,467\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,305\u003cbr\u003etok\u002fs: 1,319,002\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,818\u003cbr\u003etok\u002fs: 1,256,727\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,922\u003cbr\u003etok\u002fs: 1,142,016\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,662\u003cbr\u003etok\u002fs: 1,108,680\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,473\u003cbr\u003etok\u002fs: 1,084,547\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,127\u003cbr\u003etok\u002fs: 1,040,315\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,036\u003cbr\u003etok\u002fs: 1,028,621\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,004\u003cbr\u003etok\u002fs: 896,494\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,786\u003cbr\u003etok\u002fs: 868,559\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,721\u003cbr\u003etok\u002fs: 860,244\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,590\u003cbr\u003etok\u002fs: 843,575\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,412\u003cbr\u003etok\u002fs: 820,686\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,329\u003cbr\u003etok\u002fs: 810,070\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,239\u003cbr\u003etok\u002fs: 798,543\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,955\u003cbr\u003etok\u002fs: 762,220\u003cbr\u003eGPU memory: 42.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,709\u003cbr\u003etok\u002fs: 730,813\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,545\u003cbr\u003etok\u002fs: 709,814\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,382\u003cbr\u003etok\u002fs: 688,847\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,347\u003cbr\u003etok\u002fs: 684,385\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,611\u003cbr\u003etok\u002fs: 590,257\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,285\u003cbr\u003etok\u002fs: 548,534\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,718\u003cbr\u003etok\u002fs: 475,889\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,562\u003cbr\u003etok\u002fs: 455,912\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,546\u003cbr\u003etok\u002fs: 453,868\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,451\u003cbr\u003etok\u002fs: 441,673\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,412\u003cbr\u003etok\u002fs: 436,744\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,313\u003cbr\u003etok\u002fs: 424,099\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,259\u003cbr\u003etok\u002fs: 417,125\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,229\u003cbr\u003etok\u002fs: 413,293\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 391,839\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,731\u003cbr\u003etok\u002fs: 349,624\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,334\u003cbr\u003etok\u002fs: 298,746\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,274\u003cbr\u003etok\u002fs: 291,090\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,961\u003cbr\u003etok\u002fs: 251,031\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,923\u003cbr\u003etok\u002fs: 246,134\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,861\u003cbr\u003etok\u002fs: 238,211\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,850\u003cbr\u003etok\u002fs: 236,767\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,842\u003cbr\u003etok\u002fs: 235,780\u003cbr\u003eGPU memory: 9.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,824\u003cbr\u003etok\u002fs: 233,460\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,685\u003cbr\u003etok\u002fs: 215,743\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,506\u003cbr\u003etok\u002fs: 192,710\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,278\u003cbr\u003etok\u002fs: 163,598\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,172\u003cbr\u003etok\u002fs: 150,016\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,140\u003cbr\u003etok\u002fs: 145,866\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,060\u003cbr\u003etok\u002fs: 135,729\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,053\u003cbr\u003etok\u002fs: 134,831\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,024\u003cbr\u003etok\u002fs: 131,053\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 954\u003cbr\u003etok\u002fs: 122,053\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 799\u003cbr\u003etok\u002fs: 102,217\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 99,109\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 717\u003cbr\u003etok\u002fs: 91,721\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 713\u003cbr\u003etok\u002fs: 91,229\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 710\u003cbr\u003etok\u002fs: 90,893\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 83,649\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 574\u003cbr\u003etok\u002fs: 73,518\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 494\u003cbr\u003etok\u002fs: 63,269\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 463\u003cbr\u003etok\u002fs: 59,314\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 55,192\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 425\u003cbr\u003etok\u002fs: 54,340\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,924\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 314\u003cbr\u003etok\u002fs: 40,227\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 35,118\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 33,245\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,574\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 26,458\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 21,340\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 19,537\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 10,208\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 5,460\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 7\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,186\u003cbr\u003etok\u002fs: 3,863,823\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,088\u003cbr\u003etok\u002fs: 3,851,240\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,518\u003cbr\u003etok\u002fs: 3,650,286\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,446\u003cbr\u003etok\u002fs: 3,385,144\u003cbr\u003eGPU memory: 48.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,257\u003cbr\u003etok\u002fs: 3,360,948\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,911\u003cbr\u003etok\u002fs: 3,316,554\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,718\u003cbr\u003etok\u002fs: 3,291,963\u003cbr\u003eGPU memory: 29.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,211\u003cbr\u003etok\u002fs: 3,227,050\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,002\u003cbr\u003etok\u002fs: 3,200,316\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,513\u003cbr\u003etok\u002fs: 3,137,690\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,494\u003cbr\u003etok\u002fs: 3,135,209\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,771\u003cbr\u003etok\u002fs: 3,042,696\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,794\u003cbr\u003etok\u002fs: 2,917,649\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,689\u003cbr\u003etok\u002fs: 2,904,138\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,180\u003cbr\u003etok\u002fs: 2,838,977\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,079\u003cbr\u003etok\u002fs: 2,826,098\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,042\u003cbr\u003etok\u002fs: 2,821,318\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,306\u003cbr\u003etok\u002fs: 2,727,204\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,300\u003cbr\u003etok\u002fs: 2,726,440\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,616\u003cbr\u003etok\u002fs: 2,638,856\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,558\u003cbr\u003etok\u002fs: 2,631,418\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,887\u003cbr\u003etok\u002fs: 2,545,560\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,739\u003cbr\u003etok\u002fs: 2,526,536\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,085\u003cbr\u003etok\u002fs: 2,314,917\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,848\u003cbr\u003etok\u002fs: 2,284,593\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,766\u003cbr\u003etok\u002fs: 2,274,088\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,421\u003cbr\u003etok\u002fs: 2,229,891\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,559\u003cbr\u003etok\u002fs: 2,119,583\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,477\u003cbr\u003etok\u002fs: 2,109,059\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,901\u003cbr\u003etok\u002fs: 2,035,364\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,823\u003cbr\u003etok\u002fs: 2,025,361\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,746\u003cbr\u003etok\u002fs: 2,015,450\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,707\u003cbr\u003etok\u002fs: 2,010,537\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,533\u003cbr\u003etok\u002fs: 1,988,207\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,370\u003cbr\u003etok\u002fs: 1,967,372\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,178\u003cbr\u003etok\u002fs: 1,814,822\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,785\u003cbr\u003etok\u002fs: 1,764,475\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,487\u003cbr\u003etok\u002fs: 1,726,331\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,180\u003cbr\u003etok\u002fs: 1,687,063\u003cbr\u003eGPU memory: 41.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,064\u003cbr\u003etok\u002fs: 1,672,210\u003cbr\u003eGPU memory: 28.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,063\u003cbr\u003etok\u002fs: 1,672,114\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,313\u003cbr\u003etok\u002fs: 1,576,110\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,280\u003cbr\u003etok\u002fs: 1,571,863\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,269\u003cbr\u003etok\u002fs: 1,570,441\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,175\u003cbr\u003etok\u002fs: 1,558,360\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,866\u003cbr\u003etok\u002fs: 1,518,796\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,813\u003cbr\u003etok\u002fs: 1,512,044\u003cbr\u003eGPU memory: 32.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,400\u003cbr\u003etok\u002fs: 1,459,176\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,258\u003cbr\u003etok\u002fs: 1,441,030\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,204\u003cbr\u003etok\u002fs: 1,434,126\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,114\u003cbr\u003etok\u002fs: 1,422,593\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,379\u003cbr\u003etok\u002fs: 1,328,467\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,305\u003cbr\u003etok\u002fs: 1,319,002\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,818\u003cbr\u003etok\u002fs: 1,256,727\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,922\u003cbr\u003etok\u002fs: 1,142,016\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,662\u003cbr\u003etok\u002fs: 1,108,680\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,473\u003cbr\u003etok\u002fs: 1,084,547\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,127\u003cbr\u003etok\u002fs: 1,040,315\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,036\u003cbr\u003etok\u002fs: 1,028,621\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,004\u003cbr\u003etok\u002fs: 896,494\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,786\u003cbr\u003etok\u002fs: 868,559\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,721\u003cbr\u003etok\u002fs: 860,244\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,590\u003cbr\u003etok\u002fs: 843,575\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,412\u003cbr\u003etok\u002fs: 820,686\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,329\u003cbr\u003etok\u002fs: 810,070\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,239\u003cbr\u003etok\u002fs: 798,543\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,955\u003cbr\u003etok\u002fs: 762,220\u003cbr\u003eGPU memory: 42.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,709\u003cbr\u003etok\u002fs: 730,813\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,545\u003cbr\u003etok\u002fs: 709,814\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,382\u003cbr\u003etok\u002fs: 688,847\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,347\u003cbr\u003etok\u002fs: 684,385\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,611\u003cbr\u003etok\u002fs: 590,257\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,285\u003cbr\u003etok\u002fs: 548,534\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,718\u003cbr\u003etok\u002fs: 475,889\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,562\u003cbr\u003etok\u002fs: 455,912\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,546\u003cbr\u003etok\u002fs: 453,868\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,451\u003cbr\u003etok\u002fs: 441,673\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,412\u003cbr\u003etok\u002fs: 436,744\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,313\u003cbr\u003etok\u002fs: 424,099\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,259\u003cbr\u003etok\u002fs: 417,125\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,229\u003cbr\u003etok\u002fs: 413,293\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 391,839\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,731\u003cbr\u003etok\u002fs: 349,624\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,334\u003cbr\u003etok\u002fs: 298,746\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,274\u003cbr\u003etok\u002fs: 291,090\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,961\u003cbr\u003etok\u002fs: 251,031\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,923\u003cbr\u003etok\u002fs: 246,134\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,861\u003cbr\u003etok\u002fs: 238,211\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,850\u003cbr\u003etok\u002fs: 236,767\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,842\u003cbr\u003etok\u002fs: 235,780\u003cbr\u003eGPU memory: 9.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,824\u003cbr\u003etok\u002fs: 233,460\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,685\u003cbr\u003etok\u002fs: 215,743\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,506\u003cbr\u003etok\u002fs: 192,710\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,278\u003cbr\u003etok\u002fs: 163,598\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,172\u003cbr\u003etok\u002fs: 150,016\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,140\u003cbr\u003etok\u002fs: 145,866\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,060\u003cbr\u003etok\u002fs: 135,729\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,053\u003cbr\u003etok\u002fs: 134,831\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,024\u003cbr\u003etok\u002fs: 131,053\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 954\u003cbr\u003etok\u002fs: 122,053\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 799\u003cbr\u003etok\u002fs: 102,217\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 99,109\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 717\u003cbr\u003etok\u002fs: 91,721\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 713\u003cbr\u003etok\u002fs: 91,229\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 710\u003cbr\u003etok\u002fs: 90,893\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 83,649\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 574\u003cbr\u003etok\u002fs: 73,518\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 494\u003cbr\u003etok\u002fs: 63,269\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 463\u003cbr\u003etok\u002fs: 59,314\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 55,192\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 425\u003cbr\u003etok\u002fs: 54,340\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,924\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 314\u003cbr\u003etok\u002fs: 40,227\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 35,118\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 33,245\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,574\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 26,458\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 21,340\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 19,537\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 10,208\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 5,460\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 7\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.5234006824882431,0.493559544947302,0.41749875648919843,0.40017051521124725,0.3810874568019351,0.37258679767594843,0.3647439473052631,0.34564415748182686,0.3403402992044779,0.33174959865248127,0.3244652693032816,0.30716014379484397,0.28720749215144875,0.29424872559134946,0.24935861175062524,0.28822833865242165,0.2424597653768381,0.24224357789433948,0.2206177848385314,0.21520363131807485,0.25065054168313206,0.21197711019434812,0.20213551628638693,0.21709310645641247,0.21224614990650348,0.1644050766855474,0.1908991783159114,0.18807204410082548,0.1490947320110404,0.16759331844005745,0.16251702361078718,0.15962895534614008,0.13380023814991415,0.1495522118674332,0.12020134102015681,0.13936362741168354,0.13733892006866777,0.11362193256602904,0.12586172187282985,0.10361170361571148,0.11420454969094608,0.09263941835325655,0.10327524372977058,0.10106490607543325,0.09661054992079857,0.08940027782841331,0.08832763287158006,0.08768666837556251,0.08532001045905964,0.08332204210825639,0.07133526471896624,0.08022854639382265,0.06799932895287517,0.07451180127992356,0.07151909099767549,0.06505056883349346,0.051197714021850374,0.048816915292158196,0.04130017486429672,0.04734575650908058,0.03986325460129425,0.04322743749696292,0.040519343218361654,0.03827403918959256,0.03339211626525182,0.026678459971109115,0.03048733613047188,0.029365841091711916,0.024541766948600198,0.023465522512046044,0.021087809050686072,0.020811934640647227,0.020494923319512186,0.020332946732070926,0.019895095734590817,0.01779711326868496,0.015239682926973494,0.013545613506893388,0.012500735965050079,0.011990895373151633,0.01140675123558569,0.010819007618298826,0.00879969949486444,0.008430752823470456,0.007353479964138896,0.006695546492294155,0.00608594889098744,0.0055761082990889955,0.005106633301203691,0.004121404280449862,0.003930117643852563,0.0026636149934785125,0.0020195652291287365,0.001989998074278349,0.001113524762235081,0.0010060545819962753],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,14.429860553504124,12.976656707905166,12.645586423556797,12.280988916373744,12.118576840684913,11.96873274164017,11.603815567045823,11.502480997665165,11.338348606565548,11.199175510447867,10.868546871865103,10.487335071594984,9.813795835995476,9.764201119593046,9.715304624115289,9.632392992385606,9.628262552939656,9.215084011539993,9.111642160934876,9.100546336842806,9.049996824356638,8.861965088112536,8.551559619444358,8.472265276842492,8.141094044890558,8.123037042302514,8.07678621526824,7.84857733280448,7.741762149780166,7.658715921245728,7.61146823662623,7.556363463529103,7.446616593851197,7.2965453626984305,7.279935275761513,7.246811843341096,7.170840359356644,7.059049300706507,6.979586712098697,6.86834245296788,6.769952188691261,6.6895432163000095,6.653382943472286,6.58051139214737,6.46255411737935,6.445006058959289,6.434520126638769,6.395802514520682,6.363116521715723,6.362918832658737,6.312508123127475,6.299183039456633,6.218984374572813,6.170024786842825,6.064202255253587,5.837574885245709,5.798625934869447,5.789073767881922,5.774558343719019,5.761620225861851,5.7071842306383544,5.662880851122895,5.626148541874959,5.54628216285288,5.509713893460741,5.498761078473723,5.480413851525423,5.401493856286786,5.383886911764644,5.344988435190166,5.340475236080692,5.335289052947439,5.332639178353805,5.325476104650698,5.291153919437924,5.249315343909558,5.221601020580272,5.204507226376263,5.196166430631541,5.1866100574938665,5.176994798254111,5.143959694986815,5.13792386952354,5.120300100400804,5.109536562170474,5.099563780168086,5.091222984423364,5.083542554251976,5.0674245868824475,5.0642952111718715,5.043575715539748,5.033039309417444,5.032555602150352,5.018216836293692,5.016458665531567],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,775\u003cbr\u003etok\u002fs: 6,086,326\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,419\u003cbr\u003etok\u002fs: 5,739,320\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,964\u003cbr\u003etok\u002fs: 4,854,853\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,177\u003cbr\u003etok\u002fs: 4,653,353\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,310\u003cbr\u003etok\u002fs: 4,431,447\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,924\u003cbr\u003etok\u002fs: 4,332,598\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,568\u003cbr\u003etok\u002fs: 4,241,398\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,700\u003cbr\u003etok\u002fs: 4,019,297\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,459\u003cbr\u003etok\u002fs: 3,957,622\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,069\u003cbr\u003etok\u002fs: 3,857,725\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,738\u003cbr\u003etok\u002fs: 3,773,020\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,952\u003cbr\u003etok\u002fs: 3,571,789\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 3,339,771\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,445\u003cbr\u003etok\u002fs: 2,929,833\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,327\u003cbr\u003etok\u002fs: 2,899,648\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,210\u003cbr\u003etok\u002fs: 2,869,888\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,013\u003cbr\u003etok\u002fs: 2,819,425\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,004\u003cbr\u003etok\u002fs: 2,816,911\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,021\u003cbr\u003etok\u002fs: 2,565,437\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,775\u003cbr\u003etok\u002fs: 2,502,479\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,749\u003cbr\u003etok\u002fs: 2,495,726\u003cbr\u003eGPU memory: 16.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,629\u003cbr\u003etok\u002fs: 2,464,960\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,182\u003cbr\u003etok\u002fs: 2,350,518\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,444\u003cbr\u003etok\u002fs: 2,161,595\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,255\u003cbr\u003etok\u002fs: 2,113,334\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,468\u003cbr\u003etok\u002fs: 1,911,772\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,425\u003cbr\u003etok\u002fs: 1,900,782\u003cbr\u003eGPU memory: 20.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,315\u003cbr\u003etok\u002fs: 1,872,632\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,772\u003cbr\u003etok\u002fs: 1,733,737\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,518\u003cbr\u003etok\u002fs: 1,668,726\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,321\u003cbr\u003etok\u002fs: 1,618,181\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,209\u003cbr\u003etok\u002fs: 1,589,425\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,078\u003cbr\u003etok\u002fs: 1,555,886\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,817\u003cbr\u003etok\u002fs: 1,489,091\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,460\u003cbr\u003etok\u002fs: 1,397,752\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,420\u003cbr\u003etok\u002fs: 1,387,643\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,342\u003cbr\u003etok\u002fs: 1,367,483\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,161\u003cbr\u003etok\u002fs: 1,321,244\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,895\u003cbr\u003etok\u002fs: 1,253,204\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,706\u003cbr\u003etok\u002fs: 1,204,841\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,442\u003cbr\u003etok\u002fs: 1,137,134\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,208\u003cbr\u003etok\u002fs: 1,077,251\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 1,028,311\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,931\u003cbr\u003etok\u002fs: 1,006,303\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 961,951\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,477\u003cbr\u003etok\u002fs: 890,158\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,435\u003cbr\u003etok\u002fs: 879,478\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,411\u003cbr\u003etok\u002fs: 873,096\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,318\u003cbr\u003etok\u002fs: 849,531\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,241\u003cbr\u003etok\u002fs: 829,637\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,240\u003cbr\u003etok\u002fs: 829,517\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,120\u003cbr\u003etok\u002fs: 798,835\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,089\u003cbr\u003etok\u002fs: 790,725\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,898\u003cbr\u003etok\u002fs: 741,914\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,782\u003cbr\u003etok\u002fs: 712,115\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,530\u003cbr\u003etok\u002fs: 647,708\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,991\u003cbr\u003etok\u002fs: 509,775\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 486,070\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,876\u003cbr\u003etok\u002fs: 480,256\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,841\u003cbr\u003etok\u002fs: 471,421\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,811\u003cbr\u003etok\u002fs: 463,547\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,681\u003cbr\u003etok\u002fs: 430,415\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,576\u003cbr\u003etok\u002fs: 403,451\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,489\u003cbr\u003etok\u002fs: 381,094\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 332,485\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,212\u003cbr\u003etok\u002fs: 310,228\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,186\u003cbr\u003etok\u002fs: 303,562\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,396\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 955\u003cbr\u003etok\u002fs: 244,362\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 233,646\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 820\u003cbr\u003etok\u002fs: 209,971\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 809\u003cbr\u003etok\u002fs: 207,224\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 797\u003cbr\u003etok\u002fs: 204,068\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 791\u003cbr\u003etok\u002fs: 202,455\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 198,095\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 692\u003cbr\u003etok\u002fs: 177,206\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 593\u003cbr\u003etok\u002fs: 151,741\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 527\u003cbr\u003etok\u002fs: 134,874\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 124,470\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 119,393\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 444\u003cbr\u003etok\u002fs: 113,577\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 421\u003cbr\u003etok\u002fs: 107,725\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 342\u003cbr\u003etok\u002fs: 87,619\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 328\u003cbr\u003etok\u002fs: 83,945\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 286\u003cbr\u003etok\u002fs: 73,219\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 66,668\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 60,598\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 55,521\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 199\u003cbr\u003etok\u002fs: 50,847\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 41,037\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,132\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,522\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 20,109\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 19,814\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 11,087\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 10,017\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,775\u003cbr\u003etok\u002fs: 6,086,326\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,419\u003cbr\u003etok\u002fs: 5,739,320\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,964\u003cbr\u003etok\u002fs: 4,854,853\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,177\u003cbr\u003etok\u002fs: 4,653,353\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,310\u003cbr\u003etok\u002fs: 4,431,447\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,924\u003cbr\u003etok\u002fs: 4,332,598\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,568\u003cbr\u003etok\u002fs: 4,241,398\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,700\u003cbr\u003etok\u002fs: 4,019,297\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,459\u003cbr\u003etok\u002fs: 3,957,622\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,069\u003cbr\u003etok\u002fs: 3,857,725\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,738\u003cbr\u003etok\u002fs: 3,773,020\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,952\u003cbr\u003etok\u002fs: 3,571,789\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 3,339,771\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,445\u003cbr\u003etok\u002fs: 2,929,833\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,327\u003cbr\u003etok\u002fs: 2,899,648\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,210\u003cbr\u003etok\u002fs: 2,869,888\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,013\u003cbr\u003etok\u002fs: 2,819,425\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,004\u003cbr\u003etok\u002fs: 2,816,911\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,021\u003cbr\u003etok\u002fs: 2,565,437\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,775\u003cbr\u003etok\u002fs: 2,502,479\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,749\u003cbr\u003etok\u002fs: 2,495,726\u003cbr\u003eGPU memory: 16.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,629\u003cbr\u003etok\u002fs: 2,464,960\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,182\u003cbr\u003etok\u002fs: 2,350,518\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,444\u003cbr\u003etok\u002fs: 2,161,595\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,255\u003cbr\u003etok\u002fs: 2,113,334\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,468\u003cbr\u003etok\u002fs: 1,911,772\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,425\u003cbr\u003etok\u002fs: 1,900,782\u003cbr\u003eGPU memory: 20.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,315\u003cbr\u003etok\u002fs: 1,872,632\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,772\u003cbr\u003etok\u002fs: 1,733,737\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,518\u003cbr\u003etok\u002fs: 1,668,726\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,321\u003cbr\u003etok\u002fs: 1,618,181\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,209\u003cbr\u003etok\u002fs: 1,589,425\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,078\u003cbr\u003etok\u002fs: 1,555,886\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,817\u003cbr\u003etok\u002fs: 1,489,091\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,460\u003cbr\u003etok\u002fs: 1,397,752\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,420\u003cbr\u003etok\u002fs: 1,387,643\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,342\u003cbr\u003etok\u002fs: 1,367,483\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,161\u003cbr\u003etok\u002fs: 1,321,244\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,895\u003cbr\u003etok\u002fs: 1,253,204\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,706\u003cbr\u003etok\u002fs: 1,204,841\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,442\u003cbr\u003etok\u002fs: 1,137,134\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,208\u003cbr\u003etok\u002fs: 1,077,251\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 1,028,311\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,931\u003cbr\u003etok\u002fs: 1,006,303\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 961,951\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,477\u003cbr\u003etok\u002fs: 890,158\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,435\u003cbr\u003etok\u002fs: 879,478\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,411\u003cbr\u003etok\u002fs: 873,096\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,318\u003cbr\u003etok\u002fs: 849,531\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,241\u003cbr\u003etok\u002fs: 829,637\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,240\u003cbr\u003etok\u002fs: 829,517\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,120\u003cbr\u003etok\u002fs: 798,835\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,089\u003cbr\u003etok\u002fs: 790,725\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,898\u003cbr\u003etok\u002fs: 741,914\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,782\u003cbr\u003etok\u002fs: 712,115\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,530\u003cbr\u003etok\u002fs: 647,708\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,991\u003cbr\u003etok\u002fs: 509,775\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 486,070\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,876\u003cbr\u003etok\u002fs: 480,256\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,841\u003cbr\u003etok\u002fs: 471,421\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,811\u003cbr\u003etok\u002fs: 463,547\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,681\u003cbr\u003etok\u002fs: 430,415\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,576\u003cbr\u003etok\u002fs: 403,451\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,489\u003cbr\u003etok\u002fs: 381,094\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 332,485\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,212\u003cbr\u003etok\u002fs: 310,228\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,186\u003cbr\u003etok\u002fs: 303,562\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,396\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 955\u003cbr\u003etok\u002fs: 244,362\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 233,646\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 820\u003cbr\u003etok\u002fs: 209,971\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 809\u003cbr\u003etok\u002fs: 207,224\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 797\u003cbr\u003etok\u002fs: 204,068\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 791\u003cbr\u003etok\u002fs: 202,455\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 198,095\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 692\u003cbr\u003etok\u002fs: 177,206\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 593\u003cbr\u003etok\u002fs: 151,741\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 527\u003cbr\u003etok\u002fs: 134,874\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 124,470\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 119,393\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 444\u003cbr\u003etok\u002fs: 113,577\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 421\u003cbr\u003etok\u002fs: 107,725\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 342\u003cbr\u003etok\u002fs: 87,619\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 328\u003cbr\u003etok\u002fs: 83,945\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 286\u003cbr\u003etok\u002fs: 73,219\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 66,668\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 60,598\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 55,521\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 199\u003cbr\u003etok\u002fs: 50,847\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 41,037\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,132\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,522\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 20,109\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 19,814\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 11,087\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 10,017\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.1183478079554158,0.06084532851369506,0.05828828410511934,0.0537644179362151,0.04349573266771693,0.045911620945989544,0.03874731330925203,0.0382887404721394,0.03765206613467913,0.042559219797344144,0.03313788657395202,0.033860048628971025,0.030811546411048753,0.02338171093809822,0.026472373607483418,0.02111680582613722,0.020756656916361714,0.015866223893762608,0.015342706751826054,0.014669707633701559,0.016556835399134735,0.015084648193279718,0.014160610327781476,0.011008494515035668,0.0086237230798733,0.010049490275105662,0.009919909005152652,0.008158986037557039,0.00932805169675617,0.008178017925923221,0.007761249595379912,0.007568677430310857,0.0066860335816031615,0.00576662361860324,0.005312574962379007,0.005155997594519121,0.004547171310295461,0.004528145488913473,0.004445614561026735,0.004379538397578475,0.004015733840071515,0.003963027172729518,0.0036701837868634915,0.003582510745089729,0.0028551587357701622,0.002604737789472087,0.0025746564232329958,0.0024553593810540337,0.0023496889406756888,0.0022651011672341404,0.0020259928714875175,0.00199873966788629,0.0019406337809629156,0.0012037688609523546,0.0011983696413709788,0.0010677599486405645,0.0010003982567205478,0.0009913995574182576,0.0006131970810276287,0.0005646041047952508,0.0005203819253668433],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[8.872249125225924,7.324999968453874,7.227291100501331,7.0544267416931685,6.662043406628304,6.502192876379985,6.480598501516948,6.463075679997779,6.4387473075381365,6.39250489280416,6.266253089943053,6.107874712246753,6.008130067622276,5.893453589970182,5.866155675505611,5.8069078445120885,5.679141827597476,5.606274482422709,5.586270032315852,5.5605536303071625,5.54172690224192,5.493558070739875,5.463324263471563,5.360189461827295,5.3295266272438235,5.328811581718557,5.324571782368744,5.311768261316331,5.3052066670844775,5.267578447854884,5.253942109073044,5.247641296150405,5.218761869229951,5.18867948336699,5.173823361042048,5.168700270161024,5.148779943057139,5.148157432835143,5.145457084439726,5.143295123263333,5.1313917183427264,5.12966719678179,5.120085586743224,5.117216992341862,5.093418594800946,5.085225014311426,5.084240775176648,5.080337467838724,5.076880012416555,5.074112365618761,5.066288926342319,5.065397222510811,5.063496042643632,5.039386389991718,5.039209731685476,5.034936283134473,5.032732260456594,5.032437829946191,5.020063336208938,5.018473411452758,5.017026495801631],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,603\u003cbr\u003etok\u002fs: 2,356,777\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,764\u003cbr\u003etok\u002fs: 1,415,071\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,648\u003cbr\u003etok\u002fs: 1,355,602\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,442\u003cbr\u003etok\u002fs: 1,250,391\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,976\u003cbr\u003etok\u002fs: 1,011,574\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,786\u003cbr\u003etok\u002fs: 914,284\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,760\u003cbr\u003etok\u002fs: 901,140\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,739\u003cbr\u003etok\u002fs: 890,476\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,710\u003cbr\u003etok\u002fs: 875,668\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,655\u003cbr\u003etok\u002fs: 847,524\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,505\u003cbr\u003etok\u002fs: 770,683\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,317\u003cbr\u003etok\u002fs: 674,289\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,198\u003cbr\u003etok\u002fs: 613,581\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,062\u003cbr\u003etok\u002fs: 543,785\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,030\u003cbr\u003etok\u002fs: 527,171\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 959\u003cbr\u003etok\u002fs: 491,110\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 413,348\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 721\u003cbr\u003etok\u002fs: 368,998\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 697\u003cbr\u003etok\u002fs: 356,823\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 666\u003cbr\u003etok\u002fs: 341,171\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 644\u003cbr\u003etok\u002fs: 329,713\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 587\u003cbr\u003etok\u002fs: 300,396\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 551\u003cbr\u003etok\u002fs: 281,994\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 428\u003cbr\u003etok\u002fs: 219,223\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,561\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,125\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,545\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 371\u003cbr\u003etok\u002fs: 189,752\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 363\u003cbr\u003etok\u002fs: 185,759\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 318\u003cbr\u003etok\u002fs: 162,857\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 154,557\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 150,723\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 133,146\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 114,836\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 105,795\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 102,676\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,552\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 90,173\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 88,530\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 87,214\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 156\u003cbr\u003etok\u002fs: 79,969\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 78,920\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 73,088\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 71,342\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 111\u003cbr\u003etok\u002fs: 56,858\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 51,871\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,272\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,896\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,792\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 45,107\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,346\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,803\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,646\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,972\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,864\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,263\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,922\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,743\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,211\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,244\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,363\u003cbr\u003eGPU memory: 0.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,603\u003cbr\u003etok\u002fs: 2,356,777\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,764\u003cbr\u003etok\u002fs: 1,415,071\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,648\u003cbr\u003etok\u002fs: 1,355,602\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,442\u003cbr\u003etok\u002fs: 1,250,391\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,976\u003cbr\u003etok\u002fs: 1,011,574\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,786\u003cbr\u003etok\u002fs: 914,284\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,760\u003cbr\u003etok\u002fs: 901,140\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,739\u003cbr\u003etok\u002fs: 890,476\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,710\u003cbr\u003etok\u002fs: 875,668\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,655\u003cbr\u003etok\u002fs: 847,524\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,505\u003cbr\u003etok\u002fs: 770,683\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,317\u003cbr\u003etok\u002fs: 674,289\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,198\u003cbr\u003etok\u002fs: 613,581\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,062\u003cbr\u003etok\u002fs: 543,785\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,030\u003cbr\u003etok\u002fs: 527,171\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 959\u003cbr\u003etok\u002fs: 491,110\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 413,348\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 721\u003cbr\u003etok\u002fs: 368,998\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 697\u003cbr\u003etok\u002fs: 356,823\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 666\u003cbr\u003etok\u002fs: 341,171\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 644\u003cbr\u003etok\u002fs: 329,713\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 587\u003cbr\u003etok\u002fs: 300,396\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 551\u003cbr\u003etok\u002fs: 281,994\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 428\u003cbr\u003etok\u002fs: 219,223\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,561\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,125\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,545\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 371\u003cbr\u003etok\u002fs: 189,752\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 363\u003cbr\u003etok\u002fs: 185,759\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 318\u003cbr\u003etok\u002fs: 162,857\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 154,557\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 150,723\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 133,146\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 114,836\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 105,795\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 102,676\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,552\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 90,173\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 88,530\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 87,214\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 156\u003cbr\u003etok\u002fs: 79,969\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 78,920\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 73,088\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 71,342\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 111\u003cbr\u003etok\u002fs: 56,858\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 51,871\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,272\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,896\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,792\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 45,107\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,346\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,803\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,646\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,972\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,864\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,263\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,922\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,743\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,211\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,244\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,363\u003cbr\u003eGPU memory: 0.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[1.0,0.9077265226156155,0.9799581032369848,0.8886337638892723,0.9476972304425463,0.9475620795941093,0.9376522349506184,0.9300770907744936,0.9030189168572681,0.8928491199061981,0.8072348395677766,0.8517480422912576,0.770788057489354,0.768512147320549,0.8400727135916096,0.7425411069954397,0.8089301836286057,0.7975251566258313,0.783410415990659,0.658578520133296,0.47150892557729557,0.4547937347109683,0.4523651094082646,0.2301846767726547],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.497275685271566,5.494685179534127,5.487309337324596,5.484280168175499,5.471266789698282,5.47119958246751,5.466271657681483,5.46250472267027,5.449049350693385,5.443992157945469,5.43992006577832,5.4235535914090995,5.420057604467888,5.418817298051353,5.417747734329211,5.404663818533211,5.4022613114007685,5.3965898687824225,5.389570951460637,5.358906592847697,5.256958975737584,5.247849671350587,5.224950169773941,5.125444112646584],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 46.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,426\u003cbr\u003etok\u002fs: 131,409\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,341\u003cbr\u003etok\u002fs: 130,724\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,097\u003cbr\u003etok\u002fs: 128,775\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,997\u003cbr\u003etok\u002fs: 127,975\u003cbr\u003eGPU memory: 69.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,567\u003cbr\u003etok\u002fs: 124,536\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,565\u003cbr\u003etok\u002fs: 124,518\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 123,216\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,278\u003cbr\u003etok\u002fs: 122,220\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,833\u003cbr\u003etok\u002fs: 118,665\u003cbr\u003eGPU memory: 32.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,666\u003cbr\u003etok\u002fs: 117,328\u003cbr\u003eGPU memory: 56.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,532\u003cbr\u003etok\u002fs: 116,252\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,991\u003cbr\u003etok\u002fs: 111,927\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,875\u003cbr\u003etok\u002fs: 111,003\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,834\u003cbr\u003etok\u002fs: 110,676\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,799\u003cbr\u003etok\u002fs: 110,393\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,367\u003cbr\u003etok\u002fs: 106,935\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,288\u003cbr\u003etok\u002fs: 106,300\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,100\u003cbr\u003etok\u002fs: 104,802\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,868\u003cbr\u003etok\u002fs: 102,947\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,855\u003cbr\u003etok\u002fs: 94,844\u003cbr\u003eGPU memory: 67.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,488\u003cbr\u003etok\u002fs: 67,903\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 65,496\u003cbr\u003eGPU memory: 17.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,431\u003cbr\u003etok\u002fs: 59,445\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,144\u003cbr\u003etok\u002fs: 33,150\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 46.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,426\u003cbr\u003etok\u002fs: 131,409\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,341\u003cbr\u003etok\u002fs: 130,724\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,097\u003cbr\u003etok\u002fs: 128,775\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,997\u003cbr\u003etok\u002fs: 127,975\u003cbr\u003eGPU memory: 69.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,567\u003cbr\u003etok\u002fs: 124,536\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,565\u003cbr\u003etok\u002fs: 124,518\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 123,216\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,278\u003cbr\u003etok\u002fs: 122,220\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,833\u003cbr\u003etok\u002fs: 118,665\u003cbr\u003eGPU memory: 32.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,666\u003cbr\u003etok\u002fs: 117,328\u003cbr\u003eGPU memory: 56.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,532\u003cbr\u003etok\u002fs: 116,252\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,991\u003cbr\u003etok\u002fs: 111,927\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,875\u003cbr\u003etok\u002fs: 111,003\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,834\u003cbr\u003etok\u002fs: 110,676\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,799\u003cbr\u003etok\u002fs: 110,393\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,367\u003cbr\u003etok\u002fs: 106,935\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,288\u003cbr\u003etok\u002fs: 106,300\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,100\u003cbr\u003etok\u002fs: 104,802\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,868\u003cbr\u003etok\u002fs: 102,947\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,855\u003cbr\u003etok\u002fs: 94,844\u003cbr\u003eGPU memory: 67.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,488\u003cbr\u003etok\u002fs: 67,903\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 65,496\u003cbr\u003eGPU memory: 17.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,431\u003cbr\u003etok\u002fs: 59,445\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,144\u003cbr\u003etok\u002fs: 33,150\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.910211303231936,0.8774469738039915,0.937662584339913,0.9247922055705285,0.922945143975225,0.9000583827313745,0.813972578019677,0.8880470032734512,0.8857147379565071,0.8025780284998995,0.8689499448742825,0.8573099258557576,0.8563882214209226,0.7804127632703439,0.7733511645234927,0.7692765242774139,0.7617410784780876,0.8319356584555426,0.7572642515192396,0.8148701242961656,0.8035174530274705,0.6990043953381891,0.6941020503931796,0.7517211947578518,0.7273636026589408,0.6556682215308138,0.6500526062277995,0.6330191101316148,0.6276051436914943,0.5877919921664136,0.5861999105106178,0.5931600277363633,0.5725562200134057,0.5465354201760737,0.4672215263381359,0.44960530391364373,0.42639901948556713,0.4662947786113434,0.4132368482530394,0.45049247873352705,0.4372543922503774,0.4293864212359728,0.3512416073468639,0.3654661578014002,0.3162730753332047,0.22483626010063745,0.2247795984366838,0.1966676184046234,0.15423999259714274,0.1502822643733232,0.14841937430027477,0.09208277806830477,0.06530722459692039,0.04602738691922424],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.992078628827179,5.956367370465631,5.932553608362275,5.919753355517774,5.917916357876687,5.895154298114322,5.887183883827155,5.883208364212331,5.8808888065448945,5.874764471957026,5.864215358608096,5.852638761740074,5.851722079331173,5.8506055916416,5.842908850041899,5.838467723576055,5.830254515599343,5.827402749320662,5.825375028457116,5.810430198933403,5.799139384163797,5.761875093847935,5.75653181626633,5.747625344512741,5.72340046790764,5.714641125497091,5.708520423732508,5.689954880334801,5.684053964378957,5.6406598902403,5.638924611651191,5.589928118536601,5.5694365733273274,5.54355755118648,5.509244929789635,5.49004424778761,5.464750715666187,5.463754111145017,5.450404696513942,5.448037912143802,5.434871955088616,5.427046853732847,5.381939903415338,5.363474868128515,5.31454982053853,5.245058754861929,5.244996996866084,5.195596049425772,5.1533995960300505,5.149463432000814,5.147610692125492,5.091581053131251,5.071015035044636,5.045776600743033],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,385\u003cbr\u003etok\u002fs: 262,164\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,795\u003cbr\u003etok\u002fs: 252,727\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 246,434\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,191\u003cbr\u003etok\u002fs: 243,052\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,160\u003cbr\u003etok\u002fs: 242,566\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,784\u003cbr\u003etok\u002fs: 236,551\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,653\u003cbr\u003etok\u002fs: 234,445\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,587\u003cbr\u003etok\u002fs: 233,394\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,549\u003cbr\u003etok\u002fs: 232,781\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,448\u003cbr\u003etok\u002fs: 231,163\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,273\u003cbr\u003etok\u002fs: 228,375\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,082\u003cbr\u003etok\u002fs: 225,316\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,067\u003cbr\u003etok\u002fs: 225,074\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,049\u003cbr\u003etok\u002fs: 224,779\u003cbr\u003eGPU memory: 57.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,922\u003cbr\u003etok\u002fs: 222,745\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,848\u003cbr\u003etok\u002fs: 221,571\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,713\u003cbr\u003etok\u002fs: 219,401\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,665\u003cbr\u003etok\u002fs: 218,647\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,632\u003cbr\u003etok\u002fs: 218,111\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,385\u003cbr\u003etok\u002fs: 214,162\u003cbr\u003eGPU memory: 34.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,199\u003cbr\u003etok\u002fs: 211,178\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,583\u003cbr\u003etok\u002fs: 201,331\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,495\u003cbr\u003etok\u002fs: 199,919\u003cbr\u003eGPU memory: 21.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,348\u003cbr\u003etok\u002fs: 197,565\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,948\u003cbr\u003etok\u002fs: 191,164\u003cbr\u003eGPU memory: 49.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,803\u003cbr\u003etok\u002fs: 188,849\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,702\u003cbr\u003etok\u002fs: 187,232\u003cbr\u003eGPU memory: 67.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,395\u003cbr\u003etok\u002fs: 182,326\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,298\u003cbr\u003etok\u002fs: 180,766\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,581\u003cbr\u003etok\u002fs: 169,299\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,553\u003cbr\u003etok\u002fs: 168,840\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,743\u003cbr\u003etok\u002fs: 155,893\u003cbr\u003eGPU memory: 55.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 150,478\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,977\u003cbr\u003etok\u002fs: 143,639\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,411\u003cbr\u003etok\u002fs: 134,572\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,094\u003cbr\u003etok\u002fs: 129,498\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,676\u003cbr\u003etok\u002fs: 122,814\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,659\u003cbr\u003etok\u002fs: 122,550\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 119,023\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,400\u003cbr\u003etok\u002fs: 118,397\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,182\u003cbr\u003etok\u002fs: 114,918\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,053\u003cbr\u003etok\u002fs: 112,850\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,308\u003cbr\u003etok\u002fs: 100,930\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,003\u003cbr\u003etok\u002fs: 96,051\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,195\u003cbr\u003etok\u002fs: 83,122\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,047\u003cbr\u003etok\u002fs: 64,759\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,046\u003cbr\u003etok\u002fs: 64,742\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,230\u003cbr\u003etok\u002fs: 51,688\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,224\u003cbr\u003etok\u002fs: 51,580\u003cbr\u003eGPU memory: 76.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,534\u003cbr\u003etok\u002fs: 40,537\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,469\u003cbr\u003etok\u002fs: 39,497\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,438\u003cbr\u003etok\u002fs: 39,007\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,663\u003cbr\u003etok\u002fs: 26,605\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 24,201\u003cbr\u003eGPU memory: 31.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 18,766\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 756\u003cbr\u003etok\u002fs: 12,097\u003cbr\u003eGPU memory: 7.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,385\u003cbr\u003etok\u002fs: 262,164\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,795\u003cbr\u003etok\u002fs: 252,727\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 246,434\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,191\u003cbr\u003etok\u002fs: 243,052\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,160\u003cbr\u003etok\u002fs: 242,566\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,784\u003cbr\u003etok\u002fs: 236,551\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,653\u003cbr\u003etok\u002fs: 234,445\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,587\u003cbr\u003etok\u002fs: 233,394\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,549\u003cbr\u003etok\u002fs: 232,781\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,448\u003cbr\u003etok\u002fs: 231,163\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,273\u003cbr\u003etok\u002fs: 228,375\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,082\u003cbr\u003etok\u002fs: 225,316\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,067\u003cbr\u003etok\u002fs: 225,074\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,049\u003cbr\u003etok\u002fs: 224,779\u003cbr\u003eGPU memory: 57.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,922\u003cbr\u003etok\u002fs: 222,745\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,848\u003cbr\u003etok\u002fs: 221,571\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,713\u003cbr\u003etok\u002fs: 219,401\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,665\u003cbr\u003etok\u002fs: 218,647\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,632\u003cbr\u003etok\u002fs: 218,111\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,385\u003cbr\u003etok\u002fs: 214,162\u003cbr\u003eGPU memory: 34.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,199\u003cbr\u003etok\u002fs: 211,178\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,583\u003cbr\u003etok\u002fs: 201,331\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,495\u003cbr\u003etok\u002fs: 199,919\u003cbr\u003eGPU memory: 21.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,348\u003cbr\u003etok\u002fs: 197,565\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,948\u003cbr\u003etok\u002fs: 191,164\u003cbr\u003eGPU memory: 49.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,803\u003cbr\u003etok\u002fs: 188,849\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,702\u003cbr\u003etok\u002fs: 187,232\u003cbr\u003eGPU memory: 67.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,395\u003cbr\u003etok\u002fs: 182,326\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,298\u003cbr\u003etok\u002fs: 180,766\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,581\u003cbr\u003etok\u002fs: 169,299\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,553\u003cbr\u003etok\u002fs: 168,840\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,743\u003cbr\u003etok\u002fs: 155,893\u003cbr\u003eGPU memory: 55.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 150,478\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,977\u003cbr\u003etok\u002fs: 143,639\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,411\u003cbr\u003etok\u002fs: 134,572\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,094\u003cbr\u003etok\u002fs: 129,498\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,676\u003cbr\u003etok\u002fs: 122,814\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,659\u003cbr\u003etok\u002fs: 122,550\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 119,023\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,400\u003cbr\u003etok\u002fs: 118,397\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,182\u003cbr\u003etok\u002fs: 114,918\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,053\u003cbr\u003etok\u002fs: 112,850\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,308\u003cbr\u003etok\u002fs: 100,930\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,003\u003cbr\u003etok\u002fs: 96,051\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,195\u003cbr\u003etok\u002fs: 83,122\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,047\u003cbr\u003etok\u002fs: 64,759\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,046\u003cbr\u003etok\u002fs: 64,742\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,230\u003cbr\u003etok\u002fs: 51,688\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,224\u003cbr\u003etok\u002fs: 51,580\u003cbr\u003eGPU memory: 76.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,534\u003cbr\u003etok\u002fs: 40,537\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,469\u003cbr\u003etok\u002fs: 39,497\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,438\u003cbr\u003etok\u002fs: 39,007\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,663\u003cbr\u003etok\u002fs: 26,605\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 24,201\u003cbr\u003eGPU memory: 31.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 18,766\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 756\u003cbr\u003etok\u002fs: 12,097\u003cbr\u003eGPU memory: 7.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.29411764705882354,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354],"y":[0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8547517553645165,0.8357234353932578,0.8651084950831271,0.8633107452838747,0.8319417463315982,0.8256200958353449,0.7518513960921378,0.8090525499373254,0.7979945318697269,0.7250243202361212,0.7247171251364509,0.7884329137366228,0.7112144284136918,0.7699769086861208,0.7491935086195195,0.7465952031189408,0.6969570969110728,0.6966131319139247,0.66192684929889,0.6448479218121903,0.5823313631795078,0.5657244055036835,0.5586387265624382,0.5549153815667637,0.5242464883608944,0.5154963841060168,0.5148054101736934,0.5147907992711596,0.4455717711492567,0.43388002564697714,0.4547071153268978,0.4383995217364572,0.4345872937503692,0.41906077465787667,0.348514466924265,0.2866062465261058,0.28442922204858256,0.26654547734731765,0.2523850776417273,0.22754324332069767,0.22296809170969498,0.20568972229576818,0.1723988454750495,0.18594138958206125,0.18140835707097674,0.15912551313185308,0.14517381374431243,0.14927898239934156,0.14647368911286862,0.14643959700695663,0.1455976437484514,0.09330704994310882,0.09210895593534434,0.08190263172794013,0.06516356863646366,0.06493026690223361,0.05644800436378957,0.05005451693007893,0.045831357310230254,0.04188239414570637,0.04429173345574024,0.040853301059473074,0.02838593968497677,0.025340175294303154,0.016743714677881067,0.01805907553166944,0.013233824969910674,0.010371914436119614],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.863261742495798,6.8217821662283065,6.7207896789068595,6.717213769853379,6.654817608052274,6.642243195721988,6.638950646884734,6.609288644763165,6.587293110713922,6.580470668584797,6.579801018159273,6.5682740698761455,6.550366672963561,6.531563179640689,6.49022286159912,6.48505456500574,6.3863192718853385,6.385635090166674,6.316640510339015,6.2826687688604075,6.269416229516931,6.125283965686773,6.1111898222822845,6.103783706545379,6.042780127003502,6.025375270645335,6.024000852502531,6.023971789916251,5.971295852284562,5.945809175058488,5.90445916948816,5.872021690376894,5.86443877724012,5.833554935553715,5.693231081467273,5.5700892705775225,5.5657589452218685,5.530186339615696,5.5020198497464285,5.496018425679702,5.486045114821435,5.44733374989707,5.374932792769228,5.369856527699067,5.360839860305835,5.316516994347327,5.315723827930114,5.296931233077098,5.291351216511424,5.291283403810105,5.289608672275746,5.18559730880451,5.183214176729587,5.162912749272224,5.141717647286765,5.141210262967968,5.112280880208863,5.099563576829369,5.091163278453483,5.0910857782234045,5.088100808424275,5.081261413119821,5.056462550435697,5.050404212137504,5.036414209667185,5.035921356641528,5.026323437522705,5.020630803435198],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,387\u003cbr\u003etok\u002fs: 492,380\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,044\u003cbr\u003etok\u002fs: 481,419\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,210\u003cbr\u003etok\u002fs: 454,731\u003cbr\u003eGPU memory: 53.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,181\u003cbr\u003etok\u002fs: 453,786\u003cbr\u003eGPU memory: 37.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,666\u003cbr\u003etok\u002fs: 437,298\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,562\u003cbr\u003etok\u002fs: 433,975\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,535\u003cbr\u003etok\u002fs: 433,105\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,290\u003cbr\u003etok\u002fs: 425,266\u003cbr\u003eGPU memory: 28.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,108\u003cbr\u003etok\u002fs: 419,454\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,052\u003cbr\u003etok\u002fs: 417,651\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 417,474\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,951\u003cbr\u003etok\u002fs: 414,428\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,803\u003cbr\u003etok\u002fs: 409,696\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,648\u003cbr\u003etok\u002fs: 404,727\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,306\u003cbr\u003etok\u002fs: 393,802\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,264\u003cbr\u003etok\u002fs: 392,436\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,448\u003cbr\u003etok\u002fs: 366,345\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,443\u003cbr\u003etok\u002fs: 366,164\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,873\u003cbr\u003etok\u002fs: 347,932\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,592\u003cbr\u003etok\u002fs: 338,955\u003cbr\u003eGPU memory: 47.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,483\u003cbr\u003etok\u002fs: 335,452\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,293\u003cbr\u003etok\u002fs: 297,364\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,176\u003cbr\u003etok\u002fs: 293,640\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,115\u003cbr\u003etok\u002fs: 291,683\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,611\u003cbr\u003etok\u002fs: 275,562\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,468\u003cbr\u003etok\u002fs: 270,963\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,600\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,592\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,021\u003cbr\u003etok\u002fs: 256,672\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,811\u003cbr\u003etok\u002fs: 249,937\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,469\u003cbr\u003etok\u002fs: 239,010\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,201\u003cbr\u003etok\u002fs: 230,438\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,139\u003cbr\u003etok\u002fs: 228,434\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,884\u003cbr\u003etok\u002fs: 220,273\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,725\u003cbr\u003etok\u002fs: 183,191\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,708\u003cbr\u003etok\u002fs: 150,650\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,672\u003cbr\u003etok\u002fs: 149,506\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,378\u003cbr\u003etok\u002fs: 140,106\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,146\u003cbr\u003etok\u002fs: 132,662\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,096\u003cbr\u003etok\u002fs: 131,076\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,014\u003cbr\u003etok\u002fs: 128,441\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,694\u003cbr\u003etok\u002fs: 118,211\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 99,079\u003cbr\u003eGPU memory: 23.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,054\u003cbr\u003etok\u002fs: 97,737\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,980\u003cbr\u003etok\u002fs: 95,355\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,857\u003cbr\u003etok\u002fs: 91,422\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 83,642\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,607\u003cbr\u003etok\u002fs: 83,432\u003cbr\u003eGPU memory: 32.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,468\u003cbr\u003etok\u002fs: 78,978\u003cbr\u003eGPU memory: 76.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,452\u003cbr\u003etok\u002fs: 78,466\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,406\u003cbr\u003etok\u002fs: 76,992\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,405\u003cbr\u003etok\u002fs: 76,974\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,392\u003cbr\u003etok\u002fs: 76,531\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,533\u003cbr\u003etok\u002fs: 49,045\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 48,416\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,501\u003cbr\u003etok\u002fs: 48,028\u003cbr\u003eGPU memory: 73.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,354\u003cbr\u003etok\u002fs: 43,315\u003cbr\u003eGPU memory: 74.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,345\u003cbr\u003etok\u002fs: 43,051\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,170\u003cbr\u003etok\u002fs: 37,450\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,166\u003cbr\u003etok\u002fs: 37,316\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 927\u003cbr\u003etok\u002fs: 29,671\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 26,310\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 754\u003cbr\u003etok\u002fs: 24,124\u003cbr\u003eGPU memory: 73.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 753\u003cbr\u003etok\u002fs: 24,091\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 752\u003cbr\u003etok\u002fs: 24,070\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 728\u003cbr\u003etok\u002fs: 23,281\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 671\u003cbr\u003etok\u002fs: 21,474\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 14,921\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 13,320\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 9,623\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 9,492\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 6,956\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 5,452\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,387\u003cbr\u003etok\u002fs: 492,380\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,044\u003cbr\u003etok\u002fs: 481,419\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,210\u003cbr\u003etok\u002fs: 454,731\u003cbr\u003eGPU memory: 53.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,181\u003cbr\u003etok\u002fs: 453,786\u003cbr\u003eGPU memory: 37.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,666\u003cbr\u003etok\u002fs: 437,298\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,562\u003cbr\u003etok\u002fs: 433,975\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,535\u003cbr\u003etok\u002fs: 433,105\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,290\u003cbr\u003etok\u002fs: 425,266\u003cbr\u003eGPU memory: 28.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,108\u003cbr\u003etok\u002fs: 419,454\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,052\u003cbr\u003etok\u002fs: 417,651\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 417,474\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,951\u003cbr\u003etok\u002fs: 414,428\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,803\u003cbr\u003etok\u002fs: 409,696\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,648\u003cbr\u003etok\u002fs: 404,727\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,306\u003cbr\u003etok\u002fs: 393,802\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,264\u003cbr\u003etok\u002fs: 392,436\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,448\u003cbr\u003etok\u002fs: 366,345\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,443\u003cbr\u003etok\u002fs: 366,164\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,873\u003cbr\u003etok\u002fs: 347,932\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,592\u003cbr\u003etok\u002fs: 338,955\u003cbr\u003eGPU memory: 47.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,483\u003cbr\u003etok\u002fs: 335,452\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,293\u003cbr\u003etok\u002fs: 297,364\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,176\u003cbr\u003etok\u002fs: 293,640\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,115\u003cbr\u003etok\u002fs: 291,683\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,611\u003cbr\u003etok\u002fs: 275,562\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,468\u003cbr\u003etok\u002fs: 270,963\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,600\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,592\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,021\u003cbr\u003etok\u002fs: 256,672\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,811\u003cbr\u003etok\u002fs: 249,937\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,469\u003cbr\u003etok\u002fs: 239,010\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,201\u003cbr\u003etok\u002fs: 230,438\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,139\u003cbr\u003etok\u002fs: 228,434\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,884\u003cbr\u003etok\u002fs: 220,273\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,725\u003cbr\u003etok\u002fs: 183,191\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,708\u003cbr\u003etok\u002fs: 150,650\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,672\u003cbr\u003etok\u002fs: 149,506\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,378\u003cbr\u003etok\u002fs: 140,106\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,146\u003cbr\u003etok\u002fs: 132,662\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,096\u003cbr\u003etok\u002fs: 131,076\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,014\u003cbr\u003etok\u002fs: 128,441\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,694\u003cbr\u003etok\u002fs: 118,211\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 99,079\u003cbr\u003eGPU memory: 23.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,054\u003cbr\u003etok\u002fs: 97,737\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,980\u003cbr\u003etok\u002fs: 95,355\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,857\u003cbr\u003etok\u002fs: 91,422\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 83,642\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,607\u003cbr\u003etok\u002fs: 83,432\u003cbr\u003eGPU memory: 32.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,468\u003cbr\u003etok\u002fs: 78,978\u003cbr\u003eGPU memory: 76.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,452\u003cbr\u003etok\u002fs: 78,466\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,406\u003cbr\u003etok\u002fs: 76,992\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,405\u003cbr\u003etok\u002fs: 76,974\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,392\u003cbr\u003etok\u002fs: 76,531\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,533\u003cbr\u003etok\u002fs: 49,045\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 48,416\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,501\u003cbr\u003etok\u002fs: 48,028\u003cbr\u003eGPU memory: 73.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,354\u003cbr\u003etok\u002fs: 43,315\u003cbr\u003eGPU memory: 74.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,345\u003cbr\u003etok\u002fs: 43,051\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,170\u003cbr\u003etok\u002fs: 37,450\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,166\u003cbr\u003etok\u002fs: 37,316\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 927\u003cbr\u003etok\u002fs: 29,671\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 26,310\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 754\u003cbr\u003etok\u002fs: 24,124\u003cbr\u003eGPU memory: 73.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 753\u003cbr\u003etok\u002fs: 24,091\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 752\u003cbr\u003etok\u002fs: 24,070\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 728\u003cbr\u003etok\u002fs: 23,281\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 671\u003cbr\u003etok\u002fs: 21,474\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 14,921\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 13,320\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 9,623\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 9,492\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 6,956\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 5,452\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8235294117647058,0.058823529411764705,0.47058823529411764,0.5294117647058824,0.8823529411764706,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.7395058194283539,0.7393886075548812,0.7610319923974606,0.6864027301735951,0.7444370510571903,0.7394869990362893,0.6721962067034903,0.6711440773747822,0.7120982534492385,0.6401373705424197,0.6941311048460104,0.6852957703263529,0.67582607912169,0.6750772703668372,0.6684828830232882,0.6574772206897687,0.6420280176231837,0.6300817784390566,0.6186749250734656,0.5946899109891643,0.5261924308511537,0.5642712294891846,0.5617611981914139,0.531207974630603,0.5294613629902187,0.5002900872940549,0.4984217181325563,0.4923892417489495,0.4909092790798054,0.4889337632997263,0.42291543816543625,0.41883857589332,0.4575227580026654,0.4540703234914701,0.4528478779794827,0.4354560336635195,0.424816861468554,0.42263861941581965,0.40354095222904546,0.4028304970933436,0.360189795623913,0.3595901398324252,0.2950787436328427,0.29101630394086486,0.284723875249679,0.27720839225890037,0.224946805895998,0.24079437041925383,0.219558948261817,0.23382009960982805,0.21858031947955966,0.17926298954894324,0.1455652483962545,0.15570047406290852,0.14516296939807347,0.14362030160555558,0.14311379031772023,0.13936426745500605,0.13160892214763223,0.08310218909395742,0.09049262484255231,0.09027041736651877,0.0870535836586796,0.08294731125910063,0.07833087484605286,0.0641123188173077,0.06330773407754053,0.05536375363826694,0.053015051055972554,0.04611931384766552,0.043689033726224576,0.04239840400241325,0.04048620213331354,0.03518366208878681,0.03158329218943766,0.026258227003504792,0.025304256825574443,0.020372468432840685,0.016645160007335194,0.016631796662176433,0.01805237886800815,0.01607808066314017,0.013454206083127515,0.013389674596936949,0.013300791606523529,0.012229934208323467,0.010390178064286753,0.009358891860448835,0.006663789130584335,0.006532291007780914,0.0062863408151300785,0.006142666940215232,0.0020668339209148363],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[8.224077383979735,8.223566366837652,8.027541644264257,7.9925599779124346,7.9615235576480625,7.941831233561475,7.930622762786328,7.926035717918538,7.832873175717241,7.790853519721387,7.76139616664487,7.726247390421941,7.68857501295707,7.6855960978634155,7.65936226998174,7.615579483751593,7.554119379416909,7.506594785203269,7.461215978609937,7.365798664089784,7.294079466798417,7.2447868985861055,7.234801478316889,7.113254476849228,7.106306096846225,6.99025676794978,6.982824011508784,6.958825580888443,6.952937985284644,6.9450789775782145,6.843815239451493,6.8260410460593555,6.820119544104896,6.806385050205618,6.801521910768173,6.732333580365317,6.690008767213528,6.681343272737841,6.60536882843871,6.602542491923023,6.432909019573652,6.430523465616538,6.173883875592756,6.157722655739134,6.1326900814236796,6.102791945788589,5.980716974003517,5.957929484478157,5.957227138643068,5.930184402109944,5.8695574252486065,5.713145007774242,5.6331502390397725,5.619408479493924,5.577488120667859,5.571351071198492,5.569336065216444,5.554419692808463,5.523567335590528,5.361461073087561,5.359998256244824,5.359114269245487,5.346317043753723,5.329981448382425,5.311616315735938,5.278862780998881,5.2753631612343845,5.220248388237403,5.210904766748526,5.183472107182818,5.173803953480487,5.168669563237766,5.161062431279093,5.139967837404518,5.125644826133078,5.104460622617474,5.1006655332258015,5.081045865604914,5.072399746186747,5.072341621014187,5.071816072578965,5.063961908636916,5.053523596398176,5.053266876886041,5.0529132820863065,5.048653191314162,5.041334263336094,5.037231594906298,5.026509922451332,5.025986795898301,5.025008355493555,5.024436791296724,5.008222290034923],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,312\u003cbr\u003etok\u002fs: 851,986\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,310\u003cbr\u003etok\u002fs: 851,851\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,501\u003cbr\u003etok\u002fs: 800,050\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,356\u003cbr\u003etok\u002fs: 790,806\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,228\u003cbr\u003etok\u002fs: 782,604\u003cbr\u003eGPU memory: 28.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,147\u003cbr\u003etok\u002fs: 777,400\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,101\u003cbr\u003etok\u002fs: 774,438\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,082\u003cbr\u003etok\u002fs: 773,226\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,697\u003cbr\u003etok\u002fs: 748,607\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,523\u003cbr\u003etok\u002fs: 737,503\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,402\u003cbr\u003etok\u002fs: 729,719\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,257\u003cbr\u003etok\u002fs: 720,431\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,101\u003cbr\u003etok\u002fs: 710,476\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,089\u003cbr\u003etok\u002fs: 709,688\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,981\u003cbr\u003etok\u002fs: 702,756\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,800\u003cbr\u003etok\u002fs: 691,186\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,546\u003cbr\u003etok\u002fs: 674,945\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,350\u003cbr\u003etok\u002fs: 662,386\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,162\u003cbr\u003etok\u002fs: 650,394\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,768\u003cbr\u003etok\u002fs: 625,180\u003cbr\u003eGPU memory: 43.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,472\u003cbr\u003etok\u002fs: 606,227\u003cbr\u003eGPU memory: 65.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,269\u003cbr\u003etok\u002fs: 593,201\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,228\u003cbr\u003etok\u002fs: 590,563\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,726\u003cbr\u003etok\u002fs: 558,443\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,697\u003cbr\u003etok\u002fs: 556,607\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,218\u003cbr\u003etok\u002fs: 525,940\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 523,976\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,088\u003cbr\u003etok\u002fs: 517,634\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,064\u003cbr\u003etok\u002fs: 516,078\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,031\u003cbr\u003etok\u002fs: 514,001\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,613\u003cbr\u003etok\u002fs: 487,242\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,540\u003cbr\u003etok\u002fs: 482,545\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,515\u003cbr\u003etok\u002fs: 480,980\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,459\u003cbr\u003etok\u002fs: 477,350\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 476,065\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,153\u003cbr\u003etok\u002fs: 457,782\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,978\u003cbr\u003etok\u002fs: 446,597\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,942\u003cbr\u003etok\u002fs: 444,307\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,629\u003cbr\u003etok\u002fs: 424,230\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,617\u003cbr\u003etok\u002fs: 423,484\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,917\u003cbr\u003etok\u002fs: 378,657\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,907\u003cbr\u003etok\u002fs: 378,026\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,847\u003cbr\u003etok\u002fs: 310,207\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,780\u003cbr\u003etok\u002fs: 305,937\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,677\u003cbr\u003etok\u002fs: 299,322\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,553\u003cbr\u003etok\u002fs: 291,421\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,049\u003cbr\u003etok\u002fs: 259,162\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,955\u003cbr\u003etok\u002fs: 253,140\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,952\u003cbr\u003etok\u002fs: 252,954\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,841\u003cbr\u003etok\u002fs: 245,808\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,590\u003cbr\u003etok\u002fs: 229,787\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,945\u003cbr\u003etok\u002fs: 188,454\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 167,315\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,558\u003cbr\u003etok\u002fs: 163,683\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,384\u003cbr\u003etok\u002fs: 152,605\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,359\u003cbr\u003etok\u002fs: 150,984\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,351\u003cbr\u003etok\u002fs: 150,451\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,289\u003cbr\u003etok\u002fs: 146,509\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 138,356\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,492\u003cbr\u003etok\u002fs: 95,519\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,486\u003cbr\u003etok\u002fs: 95,132\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,483\u003cbr\u003etok\u002fs: 94,899\u003cbr\u003eGPU memory: 31.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,430\u003cbr\u003etok\u002fs: 91,517\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,362\u003cbr\u003etok\u002fs: 87,200\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,287\u003cbr\u003etok\u002fs: 82,347\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,151\u003cbr\u003etok\u002fs: 73,692\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,137\u003cbr\u003etok\u002fs: 72,767\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 968\u003cbr\u003etok\u002fs: 61,982\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 909\u003cbr\u003etok\u002fs: 58,202\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 871\u003cbr\u003etok\u002fs: 55,733\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 758\u003cbr\u003etok\u002fs: 48,484\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 718\u003cbr\u003etok\u002fs: 45,929\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 696\u003cbr\u003etok\u002fs: 44,572\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,562\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 41,143\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 606\u003cbr\u003etok\u002fs: 38,813\u003cbr\u003eGPU memory: 68.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 36,988\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 519\u003cbr\u003etok\u002fs: 33,203\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 27,604\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 26,602\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 335\u003cbr\u003etok\u002fs: 21,417\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,132\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,117\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 18,978\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,902\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 221\u003cbr\u003etok\u002fs: 14,144\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 14,076\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,857\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 10,923\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,839\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 7,005\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 6,867\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,609\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 6,458\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 2,173\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,312\u003cbr\u003etok\u002fs: 851,986\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,310\u003cbr\u003etok\u002fs: 851,851\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,501\u003cbr\u003etok\u002fs: 800,050\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,356\u003cbr\u003etok\u002fs: 790,806\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,228\u003cbr\u003etok\u002fs: 782,604\u003cbr\u003eGPU memory: 28.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,147\u003cbr\u003etok\u002fs: 777,400\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,101\u003cbr\u003etok\u002fs: 774,438\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,082\u003cbr\u003etok\u002fs: 773,226\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,697\u003cbr\u003etok\u002fs: 748,607\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,523\u003cbr\u003etok\u002fs: 737,503\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,402\u003cbr\u003etok\u002fs: 729,719\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,257\u003cbr\u003etok\u002fs: 720,431\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,101\u003cbr\u003etok\u002fs: 710,476\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,089\u003cbr\u003etok\u002fs: 709,688\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,981\u003cbr\u003etok\u002fs: 702,756\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,800\u003cbr\u003etok\u002fs: 691,186\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,546\u003cbr\u003etok\u002fs: 674,945\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,350\u003cbr\u003etok\u002fs: 662,386\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,162\u003cbr\u003etok\u002fs: 650,394\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,768\u003cbr\u003etok\u002fs: 625,180\u003cbr\u003eGPU memory: 43.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,472\u003cbr\u003etok\u002fs: 606,227\u003cbr\u003eGPU memory: 65.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,269\u003cbr\u003etok\u002fs: 593,201\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,228\u003cbr\u003etok\u002fs: 590,563\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,726\u003cbr\u003etok\u002fs: 558,443\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,697\u003cbr\u003etok\u002fs: 556,607\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,218\u003cbr\u003etok\u002fs: 525,940\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 523,976\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,088\u003cbr\u003etok\u002fs: 517,634\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,064\u003cbr\u003etok\u002fs: 516,078\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,031\u003cbr\u003etok\u002fs: 514,001\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,613\u003cbr\u003etok\u002fs: 487,242\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,540\u003cbr\u003etok\u002fs: 482,545\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,515\u003cbr\u003etok\u002fs: 480,980\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,459\u003cbr\u003etok\u002fs: 477,350\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 476,065\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,153\u003cbr\u003etok\u002fs: 457,782\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,978\u003cbr\u003etok\u002fs: 446,597\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,942\u003cbr\u003etok\u002fs: 444,307\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,629\u003cbr\u003etok\u002fs: 424,230\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,617\u003cbr\u003etok\u002fs: 423,484\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,917\u003cbr\u003etok\u002fs: 378,657\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,907\u003cbr\u003etok\u002fs: 378,026\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,847\u003cbr\u003etok\u002fs: 310,207\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,780\u003cbr\u003etok\u002fs: 305,937\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,677\u003cbr\u003etok\u002fs: 299,322\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,553\u003cbr\u003etok\u002fs: 291,421\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,049\u003cbr\u003etok\u002fs: 259,162\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,955\u003cbr\u003etok\u002fs: 253,140\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,952\u003cbr\u003etok\u002fs: 252,954\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,841\u003cbr\u003etok\u002fs: 245,808\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,590\u003cbr\u003etok\u002fs: 229,787\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,945\u003cbr\u003etok\u002fs: 188,454\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 167,315\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,558\u003cbr\u003etok\u002fs: 163,683\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,384\u003cbr\u003etok\u002fs: 152,605\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,359\u003cbr\u003etok\u002fs: 150,984\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,351\u003cbr\u003etok\u002fs: 150,451\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,289\u003cbr\u003etok\u002fs: 146,509\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 138,356\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,492\u003cbr\u003etok\u002fs: 95,519\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,486\u003cbr\u003etok\u002fs: 95,132\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,483\u003cbr\u003etok\u002fs: 94,899\u003cbr\u003eGPU memory: 31.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,430\u003cbr\u003etok\u002fs: 91,517\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,362\u003cbr\u003etok\u002fs: 87,200\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,287\u003cbr\u003etok\u002fs: 82,347\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,151\u003cbr\u003etok\u002fs: 73,692\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,137\u003cbr\u003etok\u002fs: 72,767\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 968\u003cbr\u003etok\u002fs: 61,982\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 909\u003cbr\u003etok\u002fs: 58,202\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 871\u003cbr\u003etok\u002fs: 55,733\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 758\u003cbr\u003etok\u002fs: 48,484\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 718\u003cbr\u003etok\u002fs: 45,929\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 696\u003cbr\u003etok\u002fs: 44,572\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,562\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 41,143\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 606\u003cbr\u003etok\u002fs: 38,813\u003cbr\u003eGPU memory: 68.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 36,988\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 519\u003cbr\u003etok\u002fs: 33,203\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 27,604\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 26,602\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 335\u003cbr\u003etok\u002fs: 21,417\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,132\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,117\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 18,978\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,902\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 221\u003cbr\u003etok\u002fs: 14,144\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 14,076\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,857\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 10,923\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,839\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 7,005\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 6,867\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,609\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 6,458\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 2,173\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.23529411764705882,0.6470588235294118,0.7058823529411765,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.7408640328437136,0.6705835713068486,0.6681910047710803,0.6205518775422834,0.6154367736041929,0.6036922549835252,0.595659630858331,0.5932692863486,0.588859120170874,0.5794271751486284,0.5655239582326285,0.5619276090910996,0.5561520079133926,0.5505669454683924,0.5435475652162517,0.5405894930539655,0.5860834806092018,0.5836994683457841,0.5316086193173116,0.578610612750813,0.5194808012051928,0.5473761558593677,0.5406904503749829,0.5364581589410505,0.4887246278085468,0.5035647558244233,0.4992959371341568,0.4823265914164601,0.46667953237806453,0.4596340334187869,0.44847434782105794,0.4408894630432441,0.438487795939265,0.42556201749777334,0.387327469150468,0.38405609131690865,0.3759401412153121,0.41119463000628886,0.40579529273247616,0.40369619306846616,0.4026600365637837,0.3608998024746736,0.3881349730824561,0.3835879384564435,0.37881260847834153,0.37680239180474484,0.37438306986020414,0.36698630045251185,0.3610287049443904,0.3599481069445012,0.3563081658507899,0.31228689940302307,0.33967304452855196,0.3074204145410404,0.33608545916891974,0.32849935681589476,0.3277682029016036,0.3116931661764912,0.30371074309223933,0.30175349094032733,0.29566500609700797,0.2941935664543419,0.2742399438941343,0.27323787949536377,0.26688274568080417,0.23959419938169335,0.25748489141359876,0.24519468723232377,0.24456763599858522,0.2142962733840595,0.21195295313580317,0.21011200456381887,0.19898967511679364,0.21668455487581043,0.1983083010016383,0.17039155967099373,0.16766655087070273,0.16798398158052225,0.1627605839247198,0.15578631311529406,0.14967530313056854,0.14277895713465596,0.14041381728701108,0.14027501371294085,0.13880296528266922,0.13871956138070596,0.12155296847880416,0.1078009917836401,0.10624249165449945,0.08869913655653903,0.0879765056687258,0.08725022205527916,0.08648010573423136,0.07851689128635707,0.07745784618252512,0.08362550065170715,0.08322796234526902,0.0821479731329854,0.07169691630814151,0.0695144127421681,0.06280716544013522,0.06214957749711445,0.05558048202585035,0.05004112360275636,0.047622410445821266,0.04447376094980608,0.041298324799145754,0.04028164949784155,0.039938293288299294,0.03952310014129961,0.03713604393985423,0.035673736111271774,0.029599253382880532,0.02873294862015246,0.02583146689199926,0.02326238319648803,0.023042002083271187,0.02087654457025379,0.020725565244072087,0.016548275754934165,0.01638680200093245,0.017854522896197454,0.016347773572408287,0.015610531782061345,0.014852591213124976,0.012821066973333278,0.012692612788557718,0.010587425248491883,0.010217891171910054,0.009875143749973368,0.008247854480281066,0.007530093893312407,0.006650395803261764,0.0065785588658043405,0.006195631461899942,0.00615058117908766,0.006129882400498233,0.005734170456876835,0.004129406328590675,0.003199787654883177,0.0030731598329243283,0.002564822182272226,0.002035176965425124,0.0019152458071275635,0.0010331125666546313],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[11.459997771868386,10.84718407757773,10.826321984393392,10.41093043869974,10.366329056289386,10.263922189769001,10.193881356835277,10.173038638708459,10.13458399329623,10.052341717889476,9.9311119829887,9.899753452393062,9.849392834134978,9.800693627059205,9.739487820354466,9.713694775031364,9.663121031140562,9.644152849828773,9.635385636301107,9.603663823376976,9.529636572358573,9.355149648100518,9.301955427680177,9.268281577710933,9.26145671369962,9.00656814449918,8.97260366866714,8.837588580341098,8.713094148248253,8.657037263079374,8.56824621823096,8.507897757821468,8.488789107342663,8.385946302028085,8.377319557667438,8.348794629234057,8.278027231643344,8.271633462661843,8.228674116376283,8.211972816794301,8.203728729819666,8.14688231105686,8.088161355479023,8.051983279325361,8.013988791529226,7.997994681546711,7.978745561900887,7.919893824684792,7.872492746462841,7.8638950646884735,7.834934197460899,7.716644627538738,7.702578335779435,7.674310126858189,7.674034032288533,7.613675884350282,7.607858523329991,7.4799589248780585,7.416447486328475,7.400874783847015,7.3524322962833795,7.3407249177771,7.1819656964606615,7.173992860291304,7.1234288039292615,7.084276656446324,7.048655613196352,6.950869697894416,6.945880620583092,6.864205065608789,6.848133455396196,6.832081220241123,6.731049982804636,6.7240313682181245,6.577822340410073,6.482269400487283,6.458564017611927,6.336549592881604,6.294990094501843,6.239499929765417,6.190878222919724,6.136008060023928,6.117190035407917,6.116085657129295,6.104373434858635,6.103709839138585,5.967125371153446,5.937781846539857,5.924224150040446,5.705726782626386,5.699977234307415,5.694198623402164,5.688071261461557,5.683033746506435,5.673820906655816,5.665358850284087,5.662195872143995,5.653603034134008,5.570450131023827,5.5530852357217935,5.546371778291217,5.5406512925585245,5.442221156594059,5.398147744501117,5.378903468619672,5.353851519246698,5.328586444241006,5.320497357726531,5.317765474616253,5.314462027309144,5.295469627175455,5.283834905134874,5.235503824151978,5.228611147439344,5.205525766404619,5.185085080721334,5.1833316380158,5.166102368116405,5.164901114550184,5.143956677371386,5.142551985701208,5.142057921734455,5.13006960489414,5.1242038062300495,5.118173319577043,5.102009677841231,5.100987643557067,5.084237906331285,5.081297741352669,5.078570702006772,5.065623319819231,5.059912521615298,5.0529132820863065,5.052341717889475,5.049294990094502,5.048936551530387,5.04877186354147,5.045623416694518,5.032855253789035,5.0254588255808885,5.024451322589864,5.020406779332626,5.016192704322091,5.015238482739246,5.008219868152733],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,337\u003cbr\u003etok\u002fs: 1,707,101\u003cbr\u003eGPU memory: 66.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,072\u003cbr\u003etok\u002fs: 1,545,161\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,028\u003cbr\u003etok\u002fs: 1,539,648\u003cbr\u003eGPU memory: 59.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,171\u003cbr\u003etok\u002fs: 1,429,878\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,079\u003cbr\u003etok\u002fs: 1,418,092\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,867\u003cbr\u003etok\u002fs: 1,391,030\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,723\u003cbr\u003etok\u002fs: 1,372,521\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,680\u003cbr\u003etok\u002fs: 1,367,013\u003cbr\u003eGPU memory: 30.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,600\u003cbr\u003etok\u002fs: 1,356,851\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,431\u003cbr\u003etok\u002fs: 1,335,118\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,180\u003cbr\u003etok\u002fs: 1,303,082\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,116\u003cbr\u003etok\u002fs: 1,294,796\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,012\u003cbr\u003etok\u002fs: 1,281,487\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,911\u003cbr\u003etok\u002fs: 1,268,618\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,785\u003cbr\u003etok\u002fs: 1,252,444\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,731\u003cbr\u003etok\u002fs: 1,245,628\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,627\u003cbr\u003etok\u002fs: 1,232,264\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,588\u003cbr\u003etok\u002fs: 1,227,251\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,570\u003cbr\u003etok\u002fs: 1,224,934\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,504\u003cbr\u003etok\u002fs: 1,216,552\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,351\u003cbr\u003etok\u002fs: 1,196,989\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,991\u003cbr\u003etok\u002fs: 1,150,880\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,881\u003cbr\u003etok\u002fs: 1,136,823\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,812\u003cbr\u003etok\u002fs: 1,127,924\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,798\u003cbr\u003etok\u002fs: 1,126,121\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,272\u003cbr\u003etok\u002fs: 1,058,765\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,201\u003cbr\u003etok\u002fs: 1,049,789\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,923\u003cbr\u003etok\u002fs: 1,014,111\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,666\u003cbr\u003etok\u002fs: 981,212\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,550\u003cbr\u003etok\u002fs: 966,399\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,367\u003cbr\u003etok\u002fs: 942,935\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,242\u003cbr\u003etok\u002fs: 926,988\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,203\u003cbr\u003etok\u002fs: 921,938\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,990\u003cbr\u003etok\u002fs: 894,761\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,973\u003cbr\u003etok\u002fs: 892,481\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,914\u003cbr\u003etok\u002fs: 884,943\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,768\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,754\u003cbr\u003etok\u002fs: 864,553\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,666\u003cbr\u003etok\u002fs: 853,201\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,631\u003cbr\u003etok\u002fs: 848,787\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,614\u003cbr\u003etok\u002fs: 846,609\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,497\u003cbr\u003etok\u002fs: 831,587\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,376\u003cbr\u003etok\u002fs: 816,069\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,301\u003cbr\u003etok\u002fs: 806,509\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,222\u003cbr\u003etok\u002fs: 796,468\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,189\u003cbr\u003etok\u002fs: 792,242\u003cbr\u003eGPU memory: 43.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,150\u003cbr\u003etok\u002fs: 787,155\u003cbr\u003eGPU memory: 43.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,603\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,930\u003cbr\u003etok\u002fs: 759,077\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,913\u003cbr\u003etok\u002fs: 756,805\u003cbr\u003eGPU memory: 47.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,853\u003cbr\u003etok\u002fs: 749,152\u003cbr\u003eGPU memory: 38.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 717,893\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 714,176\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,706\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,633\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,396\u003cbr\u003etok\u002fs: 690,683\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,384\u003cbr\u003etok\u002fs: 689,146\u003cbr\u003eGPU memory: 52.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,120\u003cbr\u003etok\u002fs: 655,347\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,989\u003cbr\u003etok\u002fs: 638,564\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,957\u003cbr\u003etok\u002fs: 634,449\u003cbr\u003eGPU memory: 26.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,857\u003cbr\u003etok\u002fs: 621,647\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,832\u003cbr\u003etok\u002fs: 618,554\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,505\u003cbr\u003etok\u002fs: 576,600\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,488\u003cbr\u003etok\u002fs: 574,493\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,384\u003cbr\u003etok\u002fs: 561,132\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,303\u003cbr\u003etok\u002fs: 550,785\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,229\u003cbr\u003etok\u002fs: 541,372\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,028\u003cbr\u003etok\u002fs: 515,532\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 514,213\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,849\u003cbr\u003etok\u002fs: 492,630\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,815\u003cbr\u003etok\u002fs: 488,383\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,782\u003cbr\u003etok\u002fs: 484,141\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,574\u003cbr\u003etok\u002fs: 457,443\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,559\u003cbr\u003etok\u002fs: 455,588\u003cbr\u003eGPU memory: 35.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,257\u003cbr\u003etok\u002fs: 416,951\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,060\u003cbr\u003etok\u002fs: 391,700\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,011\u003cbr\u003etok\u002fs: 385,436\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,759\u003cbr\u003etok\u002fs: 353,193\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,674\u003cbr\u003etok\u002fs: 342,211\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,559\u003cbr\u003etok\u002fs: 327,547\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,498\u003cbr\u003etok\u002fs: 319,736\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,459\u003cbr\u003etok\u002fs: 314,698\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,345\u003cbr\u003etok\u002fs: 300,198\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,306\u003cbr\u003etok\u002fs: 295,226\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,304\u003cbr\u003etok\u002fs: 294,934\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,280\u003cbr\u003etok\u002fs: 291,839\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,279\u003cbr\u003etok\u002fs: 291,663\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,997\u003cbr\u003etok\u002fs: 255,570\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,936\u003cbr\u003etok\u002fs: 247,816\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,233\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,457\u003cbr\u003etok\u002fs: 186,493\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 184,974\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,433\u003cbr\u003etok\u002fs: 183,447\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,421\u003cbr\u003etok\u002fs: 181,828\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,410\u003cbr\u003etok\u002fs: 180,497\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,391\u003cbr\u003etok\u002fs: 178,062\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,826\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,367\u003cbr\u003etok\u002fs: 174,990\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,349\u003cbr\u003etok\u002fs: 172,719\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,178\u003cbr\u003etok\u002fs: 150,746\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 146,157\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,128\u003cbr\u003etok\u002fs: 144,383\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,116\u003cbr\u003etok\u002fs: 142,871\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 116,860\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 105,213\u003cbr\u003eGPU memory: 37.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 100,128\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 731\u003cbr\u003etok\u002fs: 93,508\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 86,831\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,694\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 656\u003cbr\u003etok\u002fs: 83,972\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 649\u003cbr\u003etok\u002fs: 83,099\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 610\u003cbr\u003etok\u002fs: 78,080\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 75,005\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 562\u003cbr\u003etok\u002fs: 71,978\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 62,234\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 472\u003cbr\u003etok\u002fs: 60,412\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 54,312\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 382\u003cbr\u003etok\u002fs: 48,910\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 378\u003cbr\u003etok\u002fs: 48,447\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,894\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 340\u003cbr\u003etok\u002fs: 43,576\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 38,042\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,670\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 293\u003cbr\u003etok\u002fs: 37,540\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 34,372\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,822\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 244\u003cbr\u003etok\u002fs: 31,228\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 26,957\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,687\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 22,260\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 168\u003cbr\u003etok\u002fs: 21,484\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 20,763\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 17,341\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 124\u003cbr\u003etok\u002fs: 15,832\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 108\u003cbr\u003etok\u002fs: 13,832\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,027\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,932\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,888\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,056\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 68\u003cbr\u003etok\u002fs: 8,682\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 53\u003cbr\u003etok\u002fs: 6,728\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 50\u003cbr\u003etok\u002fs: 6,461\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 5,393\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 4,279\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 4,027\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,172\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,337\u003cbr\u003etok\u002fs: 1,707,101\u003cbr\u003eGPU memory: 66.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,072\u003cbr\u003etok\u002fs: 1,545,161\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,028\u003cbr\u003etok\u002fs: 1,539,648\u003cbr\u003eGPU memory: 59.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,171\u003cbr\u003etok\u002fs: 1,429,878\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,079\u003cbr\u003etok\u002fs: 1,418,092\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,867\u003cbr\u003etok\u002fs: 1,391,030\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,723\u003cbr\u003etok\u002fs: 1,372,521\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,680\u003cbr\u003etok\u002fs: 1,367,013\u003cbr\u003eGPU memory: 30.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,600\u003cbr\u003etok\u002fs: 1,356,851\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,431\u003cbr\u003etok\u002fs: 1,335,118\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,180\u003cbr\u003etok\u002fs: 1,303,082\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,116\u003cbr\u003etok\u002fs: 1,294,796\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,012\u003cbr\u003etok\u002fs: 1,281,487\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,911\u003cbr\u003etok\u002fs: 1,268,618\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,785\u003cbr\u003etok\u002fs: 1,252,444\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,731\u003cbr\u003etok\u002fs: 1,245,628\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,627\u003cbr\u003etok\u002fs: 1,232,264\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,588\u003cbr\u003etok\u002fs: 1,227,251\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,570\u003cbr\u003etok\u002fs: 1,224,934\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,504\u003cbr\u003etok\u002fs: 1,216,552\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,351\u003cbr\u003etok\u002fs: 1,196,989\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,991\u003cbr\u003etok\u002fs: 1,150,880\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,881\u003cbr\u003etok\u002fs: 1,136,823\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,812\u003cbr\u003etok\u002fs: 1,127,924\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,798\u003cbr\u003etok\u002fs: 1,126,121\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,272\u003cbr\u003etok\u002fs: 1,058,765\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,201\u003cbr\u003etok\u002fs: 1,049,789\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,923\u003cbr\u003etok\u002fs: 1,014,111\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,666\u003cbr\u003etok\u002fs: 981,212\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,550\u003cbr\u003etok\u002fs: 966,399\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,367\u003cbr\u003etok\u002fs: 942,935\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,242\u003cbr\u003etok\u002fs: 926,988\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,203\u003cbr\u003etok\u002fs: 921,938\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,990\u003cbr\u003etok\u002fs: 894,761\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,973\u003cbr\u003etok\u002fs: 892,481\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,914\u003cbr\u003etok\u002fs: 884,943\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,768\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,754\u003cbr\u003etok\u002fs: 864,553\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,666\u003cbr\u003etok\u002fs: 853,201\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,631\u003cbr\u003etok\u002fs: 848,787\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,614\u003cbr\u003etok\u002fs: 846,609\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,497\u003cbr\u003etok\u002fs: 831,587\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,376\u003cbr\u003etok\u002fs: 816,069\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,301\u003cbr\u003etok\u002fs: 806,509\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,222\u003cbr\u003etok\u002fs: 796,468\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,189\u003cbr\u003etok\u002fs: 792,242\u003cbr\u003eGPU memory: 43.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,150\u003cbr\u003etok\u002fs: 787,155\u003cbr\u003eGPU memory: 43.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,603\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,930\u003cbr\u003etok\u002fs: 759,077\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,913\u003cbr\u003etok\u002fs: 756,805\u003cbr\u003eGPU memory: 47.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,853\u003cbr\u003etok\u002fs: 749,152\u003cbr\u003eGPU memory: 38.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 717,893\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 714,176\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,706\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,633\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,396\u003cbr\u003etok\u002fs: 690,683\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,384\u003cbr\u003etok\u002fs: 689,146\u003cbr\u003eGPU memory: 52.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,120\u003cbr\u003etok\u002fs: 655,347\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,989\u003cbr\u003etok\u002fs: 638,564\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,957\u003cbr\u003etok\u002fs: 634,449\u003cbr\u003eGPU memory: 26.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,857\u003cbr\u003etok\u002fs: 621,647\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,832\u003cbr\u003etok\u002fs: 618,554\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,505\u003cbr\u003etok\u002fs: 576,600\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,488\u003cbr\u003etok\u002fs: 574,493\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,384\u003cbr\u003etok\u002fs: 561,132\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,303\u003cbr\u003etok\u002fs: 550,785\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,229\u003cbr\u003etok\u002fs: 541,372\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,028\u003cbr\u003etok\u002fs: 515,532\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 514,213\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,849\u003cbr\u003etok\u002fs: 492,630\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,815\u003cbr\u003etok\u002fs: 488,383\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,782\u003cbr\u003etok\u002fs: 484,141\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,574\u003cbr\u003etok\u002fs: 457,443\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,559\u003cbr\u003etok\u002fs: 455,588\u003cbr\u003eGPU memory: 35.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,257\u003cbr\u003etok\u002fs: 416,951\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,060\u003cbr\u003etok\u002fs: 391,700\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,011\u003cbr\u003etok\u002fs: 385,436\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,759\u003cbr\u003etok\u002fs: 353,193\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,674\u003cbr\u003etok\u002fs: 342,211\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,559\u003cbr\u003etok\u002fs: 327,547\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,498\u003cbr\u003etok\u002fs: 319,736\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,459\u003cbr\u003etok\u002fs: 314,698\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,345\u003cbr\u003etok\u002fs: 300,198\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,306\u003cbr\u003etok\u002fs: 295,226\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,304\u003cbr\u003etok\u002fs: 294,934\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,280\u003cbr\u003etok\u002fs: 291,839\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,279\u003cbr\u003etok\u002fs: 291,663\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,997\u003cbr\u003etok\u002fs: 255,570\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,936\u003cbr\u003etok\u002fs: 247,816\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,233\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,457\u003cbr\u003etok\u002fs: 186,493\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 184,974\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,433\u003cbr\u003etok\u002fs: 183,447\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,421\u003cbr\u003etok\u002fs: 181,828\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,410\u003cbr\u003etok\u002fs: 180,497\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,391\u003cbr\u003etok\u002fs: 178,062\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,826\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,367\u003cbr\u003etok\u002fs: 174,990\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,349\u003cbr\u003etok\u002fs: 172,719\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,178\u003cbr\u003etok\u002fs: 150,746\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 146,157\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,128\u003cbr\u003etok\u002fs: 144,383\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,116\u003cbr\u003etok\u002fs: 142,871\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 116,860\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 105,213\u003cbr\u003eGPU memory: 37.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 100,128\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 731\u003cbr\u003etok\u002fs: 93,508\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 86,831\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,694\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 656\u003cbr\u003etok\u002fs: 83,972\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 649\u003cbr\u003etok\u002fs: 83,099\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 610\u003cbr\u003etok\u002fs: 78,080\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 75,005\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 562\u003cbr\u003etok\u002fs: 71,978\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 62,234\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 472\u003cbr\u003etok\u002fs: 60,412\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 54,312\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 382\u003cbr\u003etok\u002fs: 48,910\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 378\u003cbr\u003etok\u002fs: 48,447\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,894\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 340\u003cbr\u003etok\u002fs: 43,576\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 38,042\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,670\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 293\u003cbr\u003etok\u002fs: 37,540\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 34,372\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,822\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 244\u003cbr\u003etok\u002fs: 31,228\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 26,957\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,687\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 22,260\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 168\u003cbr\u003etok\u002fs: 21,484\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 20,763\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 17,341\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 124\u003cbr\u003etok\u002fs: 15,832\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 108\u003cbr\u003etok\u002fs: 13,832\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,027\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,932\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,888\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,056\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 68\u003cbr\u003etok\u002fs: 8,682\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 53\u003cbr\u003etok\u002fs: 6,728\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 50\u003cbr\u003etok\u002fs: 6,461\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 5,393\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 4,279\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 4,027\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,172\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.2664999999999999,0.24049999999999988,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.5734243718085975,0.5589017651346728,0.5046782192505559,0.49340754768236333,0.4533671939949587,0.4199468113794723,0.41601826934535246,0.4018389656942058,0.4017139767296021,0.3980415231962923,0.3887806741789264,0.37315372056441476,0.39311120297039653,0.3420881300420611,0.35895091284657527,0.3145538943996424,0.3094043490579723,0.30654015749576613,0.3255698708578853,0.29075210699354315,0.31759597080011137,0.3089591010398702,0.2781647111522198,0.302838959241061,0.2685676021040352,0.28249084231244326,0.26282152356403754,0.2542820598206877,0.25170810582433195,0.2501276932002686,0.24932165841049211,0.24124061173413763,0.21671949330618173,0.23018320245414464,0.21256610672412002,0.21232502683231377,0.18833726041033605,0.1900452268312179,0.1733813586591187,0.1750873153623291,0.15882112998769857,0.15555212167823632,0.14862453572335232,0.13175170084846502,0.14186577572629888,0.14061471719684968,0.13684814828117955,0.13645913300121942,0.13624605733926942,0.13498830214615898,0.13161683638650462,0.13012591554046035,0.12620106184734164,0.12486477305311248,0.12177639353004886,0.118340396284204,0.11365151414609322,0.10261378663784716,0.10151353788644238,0.10954645932172541,0.10087610624317779,0.07853542748152484,0.07020322017946197,0.07549696854211806,0.07312574081841755,0.07311417385391168,0.07067476191838716,0.06992169165029537,0.06974149051904624,0.06970131053707852,0.06952354455625168,0.061024829279585274,0.06005988439791298,0.047355152686975426,0.04021867127690586,0.04337185538372188,0.0426120884519688,0.04233204615340595,0.037615768573044474,0.037514709830519626,0.03741365108799477,0.03731502749589222,0.036684932324125834,0.03643654698105271,0.036220427381074866,0.035677997624510766,0.02754459521407712,0.024534749292132216,0.02370740693616071,0.023431626150836875,0.020474135962971107,0.019185941389582063,0.018957037249887225,0.014610902533713138,0.014349123863317445,0.01174168654865522,0.009976811280103788,0.009892798590534936,0.009778346520687518,0.009661459300417811,0.009288272498202556,0.007659156865693541,0.00737667941670842,0.006149972391482089,0.003977818214803402,0.003954075498186117,0.0027681572425330685,0.00204187362908641,0.0020266539389471247,0.001044070743554917],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,14.746738935631216,13.8011295658534,13.604579294844783,12.906311909363481,12.323490804113325,12.254980600723659,12.007706429128461,12.005526735157495,11.94148248252612,11.779981690570644,11.507461819027274,11.255508571041071,10.965706148190128,10.711921957268311,10.485534097679352,10.395730706075534,10.345781807789741,10.18073538030816,10.070452552906016,10.053848128611632,9.916411158095626,9.839618117616286,9.819022431472844,9.672643871911495,9.495226470203583,9.182232103501558,9.046345137587128,9.005386265990477,8.980237441329905,8.967411153251861,8.8388188964936,8.770570256380449,8.662864311628425,8.382526604375858,8.378690342986957,8.284430688153606,8.02415585296269,8.023613351352136,7.786133271333149,7.763231953344862,7.706356471995777,7.365035771199946,7.297629946088902,7.25748482690808,7.2375769553065865,7.177640214869388,7.171449883991843,7.1680592489258945,7.148044814508043,7.094395280235988,7.070670522303113,7.008215024388354,6.986950898760481,6.937806065361757,6.883129653041157,6.808516306532785,6.785314675152942,6.766172118323476,6.74319330010511,6.605223515507312,6.2497202726070595,6.221423001099534,6.201369816566643,6.163636892047023,6.163452829000586,6.1246349012598635,6.112651428183927,6.1097839196710115,6.109144542772862,6.106315784374985,6.061733777022151,6.044945289681329,5.75355411211377,5.701377082213213,5.690168611438065,5.678078575545771,5.6736223123162395,5.598573027013674,5.5969648972395385,5.595356767465404,5.593787387806308,5.583760795539861,5.579808283805843,5.576369211096096,5.567737622971068,5.438312238739459,5.390417096550755,5.377251744966118,5.372863294437906,5.325801279722549,5.305302468866705,5.301659958053,5.232500690236424,5.228335052869689,5.186843367191246,5.158759221316438,5.157422342347579,5.1556010869407265,5.153741081418835,5.147802626289047,5.1218787993276855,5.117383785983114,5.097863415532015,5.063298312916866,5.062920499295232,5.044049193271043,5.03249197146054,5.032249783241544,5.016614111823144],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,323\u003cbr\u003etok\u002fs: 2,642,573\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,061\u003cbr\u003etok\u002fs: 2,575,647\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,085\u003cbr\u003etok\u002fs: 2,325,763\u003cbr\u003eGPU memory: 55.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,882\u003cbr\u003etok\u002fs: 2,273,823\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,161\u003cbr\u003etok\u002fs: 2,089,300\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,560\u003cbr\u003etok\u002fs: 1,935,286\u003cbr\u003eGPU memory: 26.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,489\u003cbr\u003etok\u002fs: 1,917,181\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,234\u003cbr\u003etok\u002fs: 1,851,837\u003cbr\u003eGPU memory: 32.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,231\u003cbr\u003etok\u002fs: 1,851,261\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,165\u003cbr\u003etok\u002fs: 1,834,337\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,999\u003cbr\u003etok\u002fs: 1,791,660\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,717\u003cbr\u003etok\u002fs: 1,719,644\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,457\u003cbr\u003etok\u002fs: 1,653,064\u003cbr\u003eGPU memory: 23.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,158\u003cbr\u003etok\u002fs: 1,576,481\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,896\u003cbr\u003etok\u002fs: 1,509,417\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,662\u003cbr\u003etok\u002fs: 1,449,592\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,570\u003cbr\u003etok\u002fs: 1,425,861\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,518\u003cbr\u003etok\u002fs: 1,412,662\u003cbr\u003eGPU memory: 45.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,348\u003cbr\u003etok\u002fs: 1,369,047\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,234\u003cbr\u003etok\u002fs: 1,339,904\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,217\u003cbr\u003etok\u002fs: 1,335,516\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,075\u003cbr\u003etok\u002fs: 1,299,197\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,996\u003cbr\u003etok\u002fs: 1,278,904\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,974\u003cbr\u003etok\u002fs: 1,273,462\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,823\u003cbr\u003etok\u002fs: 1,234,780\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,640\u003cbr\u003etok\u002fs: 1,187,896\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,317\u003cbr\u003etok\u002fs: 1,105,185\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,177\u003cbr\u003etok\u002fs: 1,069,276\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,135\u003cbr\u003etok\u002fs: 1,058,452\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,807\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,095\u003cbr\u003etok\u002fs: 1,048,417\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,963\u003cbr\u003etok\u002fs: 1,014,436\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,892\u003cbr\u003etok\u002fs: 996,401\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,781\u003cbr\u003etok\u002fs: 967,939\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,492\u003cbr\u003etok\u002fs: 893,857\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,488\u003cbr\u003etok\u002fs: 892,844\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,390\u003cbr\u003etok\u002fs: 867,935\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,122\u003cbr\u003etok\u002fs: 799,155\u003cbr\u003eGPU memory: 30.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,121\u003cbr\u003etok\u002fs: 799,012\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,876\u003cbr\u003etok\u002fs: 736,256\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,852\u003cbr\u003etok\u002fs: 730,204\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,794\u003cbr\u003etok\u002fs: 715,174\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,441\u003cbr\u003etok\u002fs: 624,978\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,372\u003cbr\u003etok\u002fs: 607,165\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,330\u003cbr\u003etok\u002fs: 596,557\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,310\u003cbr\u003etok\u002fs: 591,296\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,248\u003cbr\u003etok\u002fs: 575,457\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,241\u003cbr\u003etok\u002fs: 573,821\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,238\u003cbr\u003etok\u002fs: 572,925\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,217\u003cbr\u003etok\u002fs: 567,636\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 553,459\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 547,190\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,073\u003cbr\u003etok\u002fs: 530,685\u003cbr\u003eGPU memory: 30.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,051\u003cbr\u003etok\u002fs: 525,066\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,000\u003cbr\u003etok\u002fs: 512,079\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,944\u003cbr\u003etok\u002fs: 497,631\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,867\u003cbr\u003etok\u002fs: 477,914\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,843\u003cbr\u003etok\u002fs: 471,782\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,823\u003cbr\u003etok\u002fs: 466,724\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,799\u003cbr\u003etok\u002fs: 460,652\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,657\u003cbr\u003etok\u002fs: 424,192\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,290\u003cbr\u003etok\u002fs: 330,248\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,261\u003cbr\u003etok\u002fs: 322,770\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,240\u003cbr\u003etok\u002fs: 317,471\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,500\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,451\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 297,193\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,149\u003cbr\u003etok\u002fs: 294,026\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,146\u003cbr\u003etok\u002fs: 293,268\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,145\u003cbr\u003etok\u002fs: 293,100\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,352\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,096\u003cbr\u003etok\u002fs: 280,571\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,079\u003cbr\u003etok\u002fs: 276,134\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 778\u003cbr\u003etok\u002fs: 199,132\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 724\u003cbr\u003etok\u002fs: 185,344\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 712\u003cbr\u003etok\u002fs: 182,382\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 179,187\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 695\u003cbr\u003etok\u002fs: 178,010\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 618\u003cbr\u003etok\u002fs: 158,177\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 157,752\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,327\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 613\u003cbr\u003etok\u002fs: 156,913\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 603\u003cbr\u003etok\u002fs: 154,263\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 599\u003cbr\u003etok\u002fs: 153,219\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 595\u003cbr\u003etok\u002fs: 152,310\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 150,029\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 115,827\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 403\u003cbr\u003etok\u002fs: 103,171\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 389\u003cbr\u003etok\u002fs: 99,692\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 385\u003cbr\u003etok\u002fs: 98,532\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 336\u003cbr\u003etok\u002fs: 86,095\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 315\u003cbr\u003etok\u002fs: 80,678\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 79,716\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 61,440\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,339\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 193\u003cbr\u003etok\u002fs: 49,375\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 41,953\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 41,600\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 41,119\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 40,627\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,058\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 126\u003cbr\u003etok\u002fs: 32,207\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 31,020\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 25,861\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,727\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,627\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,640\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 8,586\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 8,522\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 4,390\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,323\u003cbr\u003etok\u002fs: 2,642,573\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,061\u003cbr\u003etok\u002fs: 2,575,647\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,085\u003cbr\u003etok\u002fs: 2,325,763\u003cbr\u003eGPU memory: 55.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,882\u003cbr\u003etok\u002fs: 2,273,823\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,161\u003cbr\u003etok\u002fs: 2,089,300\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,560\u003cbr\u003etok\u002fs: 1,935,286\u003cbr\u003eGPU memory: 26.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,489\u003cbr\u003etok\u002fs: 1,917,181\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,234\u003cbr\u003etok\u002fs: 1,851,837\u003cbr\u003eGPU memory: 32.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,231\u003cbr\u003etok\u002fs: 1,851,261\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,165\u003cbr\u003etok\u002fs: 1,834,337\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,999\u003cbr\u003etok\u002fs: 1,791,660\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,717\u003cbr\u003etok\u002fs: 1,719,644\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,457\u003cbr\u003etok\u002fs: 1,653,064\u003cbr\u003eGPU memory: 23.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,158\u003cbr\u003etok\u002fs: 1,576,481\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,896\u003cbr\u003etok\u002fs: 1,509,417\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,662\u003cbr\u003etok\u002fs: 1,449,592\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,570\u003cbr\u003etok\u002fs: 1,425,861\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,518\u003cbr\u003etok\u002fs: 1,412,662\u003cbr\u003eGPU memory: 45.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,348\u003cbr\u003etok\u002fs: 1,369,047\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,234\u003cbr\u003etok\u002fs: 1,339,904\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,217\u003cbr\u003etok\u002fs: 1,335,516\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,075\u003cbr\u003etok\u002fs: 1,299,197\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,996\u003cbr\u003etok\u002fs: 1,278,904\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,974\u003cbr\u003etok\u002fs: 1,273,462\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,823\u003cbr\u003etok\u002fs: 1,234,780\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,640\u003cbr\u003etok\u002fs: 1,187,896\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,317\u003cbr\u003etok\u002fs: 1,105,185\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,177\u003cbr\u003etok\u002fs: 1,069,276\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,135\u003cbr\u003etok\u002fs: 1,058,452\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,807\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,095\u003cbr\u003etok\u002fs: 1,048,417\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,963\u003cbr\u003etok\u002fs: 1,014,436\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,892\u003cbr\u003etok\u002fs: 996,401\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,781\u003cbr\u003etok\u002fs: 967,939\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,492\u003cbr\u003etok\u002fs: 893,857\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,488\u003cbr\u003etok\u002fs: 892,844\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,390\u003cbr\u003etok\u002fs: 867,935\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,122\u003cbr\u003etok\u002fs: 799,155\u003cbr\u003eGPU memory: 30.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,121\u003cbr\u003etok\u002fs: 799,012\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,876\u003cbr\u003etok\u002fs: 736,256\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,852\u003cbr\u003etok\u002fs: 730,204\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,794\u003cbr\u003etok\u002fs: 715,174\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,441\u003cbr\u003etok\u002fs: 624,978\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,372\u003cbr\u003etok\u002fs: 607,165\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,330\u003cbr\u003etok\u002fs: 596,557\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,310\u003cbr\u003etok\u002fs: 591,296\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,248\u003cbr\u003etok\u002fs: 575,457\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,241\u003cbr\u003etok\u002fs: 573,821\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,238\u003cbr\u003etok\u002fs: 572,925\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,217\u003cbr\u003etok\u002fs: 567,636\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 553,459\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 547,190\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,073\u003cbr\u003etok\u002fs: 530,685\u003cbr\u003eGPU memory: 30.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,051\u003cbr\u003etok\u002fs: 525,066\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,000\u003cbr\u003etok\u002fs: 512,079\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,944\u003cbr\u003etok\u002fs: 497,631\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,867\u003cbr\u003etok\u002fs: 477,914\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,843\u003cbr\u003etok\u002fs: 471,782\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,823\u003cbr\u003etok\u002fs: 466,724\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,799\u003cbr\u003etok\u002fs: 460,652\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,657\u003cbr\u003etok\u002fs: 424,192\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,290\u003cbr\u003etok\u002fs: 330,248\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,261\u003cbr\u003etok\u002fs: 322,770\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,240\u003cbr\u003etok\u002fs: 317,471\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,500\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,451\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 297,193\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,149\u003cbr\u003etok\u002fs: 294,026\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,146\u003cbr\u003etok\u002fs: 293,268\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,145\u003cbr\u003etok\u002fs: 293,100\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,352\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,096\u003cbr\u003etok\u002fs: 280,571\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,079\u003cbr\u003etok\u002fs: 276,134\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 778\u003cbr\u003etok\u002fs: 199,132\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 724\u003cbr\u003etok\u002fs: 185,344\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 712\u003cbr\u003etok\u002fs: 182,382\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 179,187\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 695\u003cbr\u003etok\u002fs: 178,010\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 618\u003cbr\u003etok\u002fs: 158,177\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 157,752\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,327\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 613\u003cbr\u003etok\u002fs: 156,913\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 603\u003cbr\u003etok\u002fs: 154,263\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 599\u003cbr\u003etok\u002fs: 153,219\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 595\u003cbr\u003etok\u002fs: 152,310\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 150,029\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 115,827\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 403\u003cbr\u003etok\u002fs: 103,171\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 389\u003cbr\u003etok\u002fs: 99,692\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 385\u003cbr\u003etok\u002fs: 98,532\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 336\u003cbr\u003etok\u002fs: 86,095\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 315\u003cbr\u003etok\u002fs: 80,678\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 79,716\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 61,440\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,339\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 193\u003cbr\u003etok\u002fs: 49,375\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 41,953\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 41,600\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 41,119\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 40,627\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,058\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 126\u003cbr\u003etok\u002fs: 32,207\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 31,020\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 25,861\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,727\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,627\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,640\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 8,586\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 8,522\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 4,390\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826],"y":[0.07749999999999983,0.07749999999999983,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.22471738170763667,0.09398503530382803,0.09220819520755746,0.09150216513833617,0.09931152209685935,0.09572332794962161,0.08387981639225074,0.09093825736983058,0.08201708379778758,0.06646913137621781,0.06242742371520706,0.06477134850716149,0.058921772835225046,0.05747574752783729,0.061676272320436584,0.052662017086335305,0.055837390395401476,0.05246409827293045,0.04524489417350039,0.04491030543626263,0.037734446167094766,0.03758162422877798,0.03681582165932368,0.03218493613869298,0.031837613034703255,0.034433026971117296,0.0343733657857713,0.02937962826647786,0.026865335023547057,0.028865055530561453,0.0251475883645978,0.023840122634175273,0.022175088532937544,0.01975492178698887,0.021584564555533307,0.02029697876974983,0.019868392295427584,0.01757279888377262,0.015546581674075265,0.01660102921632598,0.015091114326580774,0.015239780130268376,0.013370193393558664,0.01298909235247098,0.01167532869964794,0.01045180633229708,0.010791977883963865,0.010757276990446296,0.010453491975266177,0.009540871637308107,0.009799045299276945,0.008942861941453488,0.009741819264353234,0.009156774375399137,0.00877019424586131,0.007354763062907849,0.007312756718123425,0.006936525977880311,0.005824879810106972,0.005575276891822704,0.005517442069293423,0.005232529469886017,0.004947008082873039,0.0049025665876663285,0.004814901172464049,0.00476193665077934,0.004690708500927487,0.0044380616446153655,0.004244467186043667,0.0037665689156701327,0.0034146896796498744,0.0029647956391326237,0.0027918999591503525,0.002722498172115214,0.002664663349585932,0.002569083695511226,0.002467416165380805,0.00230608744990439,0.0019742982048679865,0.0017947058612244292,0.0014781363063273109,0.0013941236167584602,0.0013801215018303201,0.0012011379457923326,0.0010434619559493454,0.0007305451266856552,0.0006130491188103793],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[12.837733893272496,8.278027231643344,8.208548275377693,8.18398070244271,8.160653133188989,8.046456544167865,7.925575560302445,7.894168592063008,7.610246499169294,7.3183225075199445,7.17227332393643,7.061389869751176,7.050287961792387,6.999970937413721,6.962887077321011,6.8367554528677505,6.777060900649549,6.66970370693288,6.57805968486469,6.5627340143666055,6.316108907198318,6.307719507292288,6.1716872284464595,6.122552082576496,6.107846413919042,6.0958532533143455,6.093954497677415,6.0247080421020005,5.934827150268102,5.918648977239151,5.875055097819821,5.758727252471531,5.705736470155146,5.687407665741508,5.686942664361035,5.645964417706865,5.632324377212995,5.6114768153217955,5.5409709810076,5.5283384435047545,5.5251221839564835,5.4850158148907004,5.425515013247695,5.413386227240363,5.371574853112845,5.363689204702326,5.343461644651757,5.342357266373135,5.332689112670804,5.3319916106000935,5.311860925837124,5.311182798823934,5.310039670430272,5.291420240153838,5.279117078628827,5.23407006989552,5.232733190926661,5.220759405379485,5.185380550348508,5.177436776765431,5.175596146301059,5.166528619381839,5.157441717405098,5.15602733820616,5.153237329923323,5.151551699919109,5.149284818189304,5.141244169318628,5.135082901027363,5.119873480874396,5.108674697628008,5.094356530120949,5.088854013785354,5.086645257228107,5.084804626763736,5.081762742733143,5.078527108127353,5.073392717884631,5.0628333115363935,5.057117669568082,5.047042639657836,5.044368881720118,5.043923255397164,5.038226988486372,5.033208848588769,5.023250069023643,5.0195106829223395],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,045\u003cbr\u003etok\u002fs: 2,071,178\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,692\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,656\u003cbr\u003etok\u002fs: 847,882\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,643\u003cbr\u003etok\u002fs: 841,390\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,631\u003cbr\u003etok\u002fs: 835,226\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,572\u003cbr\u003etok\u002fs: 805,048\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,510\u003cbr\u003etok\u002fs: 773,105\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,494\u003cbr\u003etok\u002fs: 764,805\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,347\u003cbr\u003etok\u002fs: 689,777\u003cbr\u003eGPU memory: 11.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,197\u003cbr\u003etok\u002fs: 612,634\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,121\u003cbr\u003etok\u002fs: 574,039\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,064\u003cbr\u003etok\u002fs: 544,737\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,058\u003cbr\u003etok\u002fs: 541,804\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 528,507\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,013\u003cbr\u003etok\u002fs: 518,707\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 948\u003cbr\u003etok\u002fs: 485,376\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 917\u003cbr\u003etok\u002fs: 469,601\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 862\u003cbr\u003etok\u002fs: 441,231\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 814\u003cbr\u003etok\u002fs: 417,014\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 412,964\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 679\u003cbr\u003etok\u002fs: 347,791\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,574\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 605\u003cbr\u003etok\u002fs: 309,627\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,643\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 572\u003cbr\u003etok\u002fs: 292,756\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 566\u003cbr\u003etok\u002fs: 289,587\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 289,085\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 270,787\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 482\u003cbr\u003etok\u002fs: 247,035\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 474\u003cbr\u003etok\u002fs: 242,760\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 231,240\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,499\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 364\u003cbr\u003etok\u002fs: 186,496\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,652\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,530\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 333\u003cbr\u003etok\u002fs: 170,701\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 167,096\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 316\u003cbr\u003etok\u002fs: 161,587\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 279\u003cbr\u003etok\u002fs: 142,956\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 273\u003cbr\u003etok\u002fs: 139,617\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 271\u003cbr\u003etok\u002fs: 138,767\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 128,169\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 112,445\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 213\u003cbr\u003etok\u002fs: 109,240\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 98,191\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 188\u003cbr\u003etok\u002fs: 96,108\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,762\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,470\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 172\u003cbr\u003etok\u002fs: 87,916\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 87,731\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,412\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,232\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 81,930\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 150\u003cbr\u003etok\u002fs: 77,010\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 144\u003cbr\u003etok\u002fs: 73,759\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 61,855\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,501\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 58,337\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,988\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,889\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,403\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 86\u003cbr\u003etok\u002fs: 44,006\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,605\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,231\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,494\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 40,049\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 39,450\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 73\u003cbr\u003etok\u002fs: 37,325\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 35,697\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 31,677\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 56\u003cbr\u003etok\u002fs: 28,718\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 24,934\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 23,480\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 22,897\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,410\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,606\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 20,751\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,395\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,604\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 15,094\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,431\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,725\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,607\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,102\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,776\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,144\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,156\u003cbr\u003eGPU memory: 1.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,045\u003cbr\u003etok\u002fs: 2,071,178\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,692\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,656\u003cbr\u003etok\u002fs: 847,882\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,643\u003cbr\u003etok\u002fs: 841,390\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,631\u003cbr\u003etok\u002fs: 835,226\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,572\u003cbr\u003etok\u002fs: 805,048\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,510\u003cbr\u003etok\u002fs: 773,105\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,494\u003cbr\u003etok\u002fs: 764,805\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,347\u003cbr\u003etok\u002fs: 689,777\u003cbr\u003eGPU memory: 11.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,197\u003cbr\u003etok\u002fs: 612,634\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,121\u003cbr\u003etok\u002fs: 574,039\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,064\u003cbr\u003etok\u002fs: 544,737\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,058\u003cbr\u003etok\u002fs: 541,804\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 528,507\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,013\u003cbr\u003etok\u002fs: 518,707\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 948\u003cbr\u003etok\u002fs: 485,376\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 917\u003cbr\u003etok\u002fs: 469,601\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 862\u003cbr\u003etok\u002fs: 441,231\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 814\u003cbr\u003etok\u002fs: 417,014\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 412,964\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 679\u003cbr\u003etok\u002fs: 347,791\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,574\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 605\u003cbr\u003etok\u002fs: 309,627\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,643\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 572\u003cbr\u003etok\u002fs: 292,756\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 566\u003cbr\u003etok\u002fs: 289,587\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 289,085\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 270,787\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 482\u003cbr\u003etok\u002fs: 247,035\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 474\u003cbr\u003etok\u002fs: 242,760\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 231,240\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,499\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 364\u003cbr\u003etok\u002fs: 186,496\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,652\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,530\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 333\u003cbr\u003etok\u002fs: 170,701\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 167,096\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 316\u003cbr\u003etok\u002fs: 161,587\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 279\u003cbr\u003etok\u002fs: 142,956\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 273\u003cbr\u003etok\u002fs: 139,617\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 271\u003cbr\u003etok\u002fs: 138,767\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 128,169\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 112,445\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 213\u003cbr\u003etok\u002fs: 109,240\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 98,191\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 188\u003cbr\u003etok\u002fs: 96,108\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,762\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,470\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 172\u003cbr\u003etok\u002fs: 87,916\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 87,731\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,412\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,232\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 81,930\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 150\u003cbr\u003etok\u002fs: 77,010\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 144\u003cbr\u003etok\u002fs: 73,759\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 61,855\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,501\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 58,337\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,988\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,889\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,403\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 86\u003cbr\u003etok\u002fs: 44,006\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,605\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,231\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,494\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 40,049\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 39,450\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 73\u003cbr\u003etok\u002fs: 37,325\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 35,697\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 31,677\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 56\u003cbr\u003etok\u002fs: 28,718\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 24,934\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 23,480\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 22,897\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,410\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,606\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 20,751\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,395\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,604\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 15,094\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,431\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,725\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,607\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,102\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,776\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,144\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,156\u003cbr\u003eGPU memory: 1.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[1.0,0.9517117847128189,0.9350723950059174,0.907176594769221,0.9017429710739835,0.9000343849623098,0.8914927871544179,0.8353186872940899,0.8313924043884808,0.7874889381710399,0.7840997537077119,0.48194389653591496],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.378122429891471,5.3598635725919594,5.353571846124074,5.343023818354808,5.340969243360049,5.340323188627824,5.337093418909548,5.315852731773395,5.314368116140685,5.2977672308138875,5.296485704149264,5.182233797229523],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,503\u003cbr\u003etok\u002fs: 60,026\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,141\u003cbr\u003etok\u002fs: 57,128\u003cbr\u003eGPU memory: 65.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,016\u003cbr\u003etok\u002fs: 56,129\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,807\u003cbr\u003etok\u002fs: 54,454\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,766\u003cbr\u003etok\u002fs: 54,128\u003cbr\u003eGPU memory: 63.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,753\u003cbr\u003etok\u002fs: 54,026\u003cbr\u003eGPU memory: 53.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,689\u003cbr\u003etok\u002fs: 53,513\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,268\u003cbr\u003etok\u002fs: 50,141\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,238\u003cbr\u003etok\u002fs: 49,905\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,909\u003cbr\u003etok\u002fs: 47,270\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,883\u003cbr\u003etok\u002fs: 47,067\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,616\u003cbr\u003etok\u002fs: 28,929\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,752\u003cbr\u003etok\u002fs: 22,016\u003cbr\u003eGPU memory: 71.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,503\u003cbr\u003etok\u002fs: 60,026\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,141\u003cbr\u003etok\u002fs: 57,128\u003cbr\u003eGPU memory: 65.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,016\u003cbr\u003etok\u002fs: 56,129\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,807\u003cbr\u003etok\u002fs: 54,454\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,766\u003cbr\u003etok\u002fs: 54,128\u003cbr\u003eGPU memory: 63.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,753\u003cbr\u003etok\u002fs: 54,026\u003cbr\u003eGPU memory: 53.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,689\u003cbr\u003etok\u002fs: 53,513\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,268\u003cbr\u003etok\u002fs: 50,141\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,238\u003cbr\u003etok\u002fs: 49,905\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,909\u003cbr\u003etok\u002fs: 47,270\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,883\u003cbr\u003etok\u002fs: 47,067\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,616\u003cbr\u003etok\u002fs: 28,929\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,752\u003cbr\u003etok\u002fs: 22,016\u003cbr\u003eGPU memory: 71.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.9716377370963099,0.9715617703191137,0.9432861361964368,0.9375739676514806,0.9148119222526682,0.9102112676056339,0.8860338412001152,0.8798911942510477,0.8665783497350492,0.8633184420680025,0.8604490302907529,0.856761309720549,0.8551899969080189,0.8462565704598523,0.8282964250301202,0.8249059078163151,0.8072003177277137,0.7945898327131602,0.784934055506392,0.7436107942126644,0.7369537055794266,0.723135748632598,0.7138544743099018,0.5938416265953024,0.5888331503022678,0.47910513801963944,0.4597042893241357,0.3573423889285752,0.3032460470620848,0.2939594417374802,0.20024842468893603,0.12845982023861566,0.11935580172937703,0.0982263756650425,0.09325921463679884,0.0915706197822819],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.7347960442502135,5.734738594765445,5.713355291803067,5.70903549370273,5.691821813871733,5.688342592443276,5.670058538001323,5.665413192820629,5.655345422586315,5.652880134169744,5.6507101562625985,5.647921336537066,5.646733039299479,5.639977181467804,5.6263949138056155,5.623830852590669,5.610441091096741,5.600904476625114,5.593602344745287,5.562351840802438,5.557317451742433,5.546867692828692,5.539848776829917,5.449089677637838,5.445302043185887,5.3623207979229495,5.347649005821548,5.270238344809791,5.2293282643401975,5.222305316798632,5.151436841850639,5.097147078744094,5.090262211543113,5.074283191691797,5.070526801696473,5.069249810517489],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,648\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,638\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,078\u003cbr\u003etok\u002fs: 113,244\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,035\u003cbr\u003etok\u002fs: 112,558\u003cbr\u003eGPU memory: 62.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,864\u003cbr\u003etok\u002fs: 109,825\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,830\u003cbr\u003etok\u002fs: 109,273\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,648\u003cbr\u003etok\u002fs: 106,371\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,602\u003cbr\u003etok\u002fs: 105,633\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,502\u003cbr\u003etok\u002fs: 104,035\u003cbr\u003eGPU memory: 54.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,478\u003cbr\u003etok\u002fs: 103,644\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,456\u003cbr\u003etok\u002fs: 103,299\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,429\u003cbr\u003etok\u002fs: 102,856\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,417\u003cbr\u003etok\u002fs: 102,668\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,350\u003cbr\u003etok\u002fs: 101,595\u003cbr\u003eGPU memory: 57.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,215\u003cbr\u003etok\u002fs: 99,439\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,190\u003cbr\u003etok\u002fs: 99,032\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,057\u003cbr\u003etok\u002fs: 96,906\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,962\u003cbr\u003etok\u002fs: 95,392\u003cbr\u003eGPU memory: 36.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,890\u003cbr\u003etok\u002fs: 94,233\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 89,272\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,530\u003cbr\u003etok\u002fs: 88,473\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,426\u003cbr\u003etok\u002fs: 86,814\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,356\u003cbr\u003etok\u002fs: 85,700\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,456\u003cbr\u003etok\u002fs: 71,292\u003cbr\u003eGPU memory: 67.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,418\u003cbr\u003etok\u002fs: 70,691\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,595\u003cbr\u003etok\u002fs: 57,518\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,449\u003cbr\u003etok\u002fs: 55,189\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,681\u003cbr\u003etok\u002fs: 42,900\u003cbr\u003eGPU memory: 64.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,275\u003cbr\u003etok\u002fs: 36,405\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,206\u003cbr\u003etok\u002fs: 35,291\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,503\u003cbr\u003etok\u002fs: 24,040\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 964\u003cbr\u003etok\u002fs: 15,422\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 896\u003cbr\u003etok\u002fs: 14,329\u003cbr\u003eGPU memory: 50.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 737\u003cbr\u003etok\u002fs: 11,792\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 11,196\u003cbr\u003eGPU memory: 15.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 10,993\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,648\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,638\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,078\u003cbr\u003etok\u002fs: 113,244\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,035\u003cbr\u003etok\u002fs: 112,558\u003cbr\u003eGPU memory: 62.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,864\u003cbr\u003etok\u002fs: 109,825\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,830\u003cbr\u003etok\u002fs: 109,273\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,648\u003cbr\u003etok\u002fs: 106,371\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,602\u003cbr\u003etok\u002fs: 105,633\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,502\u003cbr\u003etok\u002fs: 104,035\u003cbr\u003eGPU memory: 54.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,478\u003cbr\u003etok\u002fs: 103,644\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,456\u003cbr\u003etok\u002fs: 103,299\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,429\u003cbr\u003etok\u002fs: 102,856\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,417\u003cbr\u003etok\u002fs: 102,668\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,350\u003cbr\u003etok\u002fs: 101,595\u003cbr\u003eGPU memory: 57.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,215\u003cbr\u003etok\u002fs: 99,439\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,190\u003cbr\u003etok\u002fs: 99,032\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,057\u003cbr\u003etok\u002fs: 96,906\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,962\u003cbr\u003etok\u002fs: 95,392\u003cbr\u003eGPU memory: 36.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,890\u003cbr\u003etok\u002fs: 94,233\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 89,272\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,530\u003cbr\u003etok\u002fs: 88,473\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,426\u003cbr\u003etok\u002fs: 86,814\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,356\u003cbr\u003etok\u002fs: 85,700\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,456\u003cbr\u003etok\u002fs: 71,292\u003cbr\u003eGPU memory: 67.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,418\u003cbr\u003etok\u002fs: 70,691\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,595\u003cbr\u003etok\u002fs: 57,518\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,449\u003cbr\u003etok\u002fs: 55,189\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,681\u003cbr\u003etok\u002fs: 42,900\u003cbr\u003eGPU memory: 64.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,275\u003cbr\u003etok\u002fs: 36,405\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,206\u003cbr\u003etok\u002fs: 35,291\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,503\u003cbr\u003etok\u002fs: 24,040\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 964\u003cbr\u003etok\u002fs: 15,422\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 896\u003cbr\u003etok\u002fs: 14,329\u003cbr\u003eGPU memory: 50.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 737\u003cbr\u003etok\u002fs: 11,792\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 11,196\u003cbr\u003eGPU memory: 15.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 10,993\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.9577198238636969,0.9221247241206514,0.9040619569041807,0.9004981821283493,0.8984364171402375,0.8795340171231782,0.8560296297086075,0.8400246292288173,0.8374031090403131,0.8359184250087962,0.8172146048128286,0.8020452388821956,0.7973179729398343,0.7882192854325042,0.7511288396541247,0.7453753558443775,0.7032537770148521,0.7023248499322964,0.688980019404847,0.6867849793690227,0.6624223006471837,0.6292967875382499,0.5672959025919332,0.5180427759593138,0.4740566792122912,0.4623311405145483,0.3541451205339532,0.34942851659540897,0.29814427823565165,0.2979736861745797,0.28711310253649075,0.2658085156800459,0.2530799863526351,0.1896197396338668,0.1811860946146219,0.16353514729558274,0.1266152935782751,0.12438293652909128,0.10394311911675397,0.08862524122783637,0.08676205606081608,0.08589710100116217,0.06147578125832969,0.05599284579543879,0.054595051706582,0.03733833736712479,0.03500791124385842,0.018462592359608065,0.013880596219253447],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.44854138781829,6.394704165390012,6.367384415668187,6.361994242956895,6.358875844608215,6.33028615890729,6.294736014578058,6.270528615890729,6.266563593555983,6.2643180242215095,6.236028688458499,6.213085178436084,6.205935237296608,6.192173565980229,6.136074648046314,6.127372562932383,6.063664107980842,6.06225911531825,6.042075196336134,6.038755220847914,6.001906919740046,5.9518049217074385,5.858029220622147,5.783534372933834,5.717005853800132,5.699271097063424,5.5356408540420246,5.5285070390737125,5.450940155778813,5.450682137040203,5.434255615939108,5.401628340133202,5.382780877586235,5.286797906822983,5.274042105432907,5.247345229072262,5.191504329876957,5.188127912789667,5.1570547967296125,5.134044766251149,5.131226717840383,5.12991848220477,5.092981487155504,5.084688603634839,5.082491412813855,5.056473851413459,5.052895857186628,5.027924481140443,5.020994259083066],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,186\u003cbr\u003etok\u002fs: 229,953\u003cbr\u003eGPU memory: 61.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,919\u003cbr\u003etok\u002fs: 221,407\u003cbr\u003eGPU memory: 61.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,783\u003cbr\u003etok\u002fs: 217,070\u003cbr\u003eGPU memory: 58.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,757\u003cbr\u003etok\u002fs: 216,214\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,741\u003cbr\u003etok\u002fs: 215,719\u003cbr\u003eGPU memory: 54.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,599\u003cbr\u003etok\u002fs: 211,180\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,423\u003cbr\u003etok\u002fs: 205,537\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,303\u003cbr\u003etok\u002fs: 201,694\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,283\u003cbr\u003etok\u002fs: 201,065\u003cbr\u003eGPU memory: 48.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,272\u003cbr\u003etok\u002fs: 200,708\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,132\u003cbr\u003etok\u002fs: 196,217\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,018\u003cbr\u003etok\u002fs: 192,575\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 191,440\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,914\u003cbr\u003etok\u002fs: 189,255\u003cbr\u003eGPU memory: 46.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,636\u003cbr\u003etok\u002fs: 180,350\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,593\u003cbr\u003etok\u002fs: 178,968\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,277\u003cbr\u003etok\u002fs: 168,855\u003cbr\u003eGPU memory: 29.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,270\u003cbr\u003etok\u002fs: 168,632\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,170\u003cbr\u003etok\u002fs: 165,428\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,153\u003cbr\u003etok\u002fs: 164,900\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,970\u003cbr\u003etok\u002fs: 159,051\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,722\u003cbr\u003etok\u002fs: 151,097\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,257\u003cbr\u003etok\u002fs: 136,211\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,887\u003cbr\u003etok\u002fs: 124,385\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,557\u003cbr\u003etok\u002fs: 113,823\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,469\u003cbr\u003etok\u002fs: 111,008\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,657\u003cbr\u003etok\u002fs: 85,032\u003cbr\u003eGPU memory: 36.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,622\u003cbr\u003etok\u002fs: 83,900\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,237\u003cbr\u003etok\u002fs: 71,586\u003cbr\u003eGPU memory: 37.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,236\u003cbr\u003etok\u002fs: 71,545\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 68,937\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,992\u003cbr\u003etok\u002fs: 63,758\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,960\u003cbr\u003etok\u002fs: 62,708\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 60,766\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,491\u003cbr\u003etok\u002fs: 47,711\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,423\u003cbr\u003etok\u002fs: 45,529\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 43,975\u003cbr\u003eGPU memory: 77.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,359\u003cbr\u003etok\u002fs: 43,504\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,227\u003cbr\u003etok\u002fs: 39,266\u003cbr\u003eGPU memory: 20.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,152\u003cbr\u003etok\u002fs: 36,849\u003cbr\u003eGPU memory: 76.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 950\u003cbr\u003etok\u002fs: 30,401\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 933\u003cbr\u003etok\u002fs: 29,865\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 812\u003cbr\u003etok\u002fs: 25,975\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 25,021\u003cbr\u003eGPU memory: 76.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 779\u003cbr\u003etok\u002fs: 24,932\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 21,279\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 651\u003cbr\u003etok\u002fs: 20,832\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 645\u003cbr\u003etok\u002fs: 20,624\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 461\u003cbr\u003etok\u002fs: 14,761\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 420\u003cbr\u003etok\u002fs: 13,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 409\u003cbr\u003etok\u002fs: 13,095\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 8,965\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 262\u003cbr\u003etok\u002fs: 8,397\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 4,433\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 3,333\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.23529411764705882,0.35294117647058826,0.4117647058823529,0.5294117647058824,0.5882352941176471,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,186\u003cbr\u003etok\u002fs: 229,953\u003cbr\u003eGPU memory: 61.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,919\u003cbr\u003etok\u002fs: 221,407\u003cbr\u003eGPU memory: 61.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,783\u003cbr\u003etok\u002fs: 217,070\u003cbr\u003eGPU memory: 58.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,757\u003cbr\u003etok\u002fs: 216,214\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,741\u003cbr\u003etok\u002fs: 215,719\u003cbr\u003eGPU memory: 54.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,599\u003cbr\u003etok\u002fs: 211,180\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,423\u003cbr\u003etok\u002fs: 205,537\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,303\u003cbr\u003etok\u002fs: 201,694\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,283\u003cbr\u003etok\u002fs: 201,065\u003cbr\u003eGPU memory: 48.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,272\u003cbr\u003etok\u002fs: 200,708\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,132\u003cbr\u003etok\u002fs: 196,217\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,018\u003cbr\u003etok\u002fs: 192,575\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 191,440\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,914\u003cbr\u003etok\u002fs: 189,255\u003cbr\u003eGPU memory: 46.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,636\u003cbr\u003etok\u002fs: 180,350\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,593\u003cbr\u003etok\u002fs: 178,968\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,277\u003cbr\u003etok\u002fs: 168,855\u003cbr\u003eGPU memory: 29.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,270\u003cbr\u003etok\u002fs: 168,632\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,170\u003cbr\u003etok\u002fs: 165,428\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,153\u003cbr\u003etok\u002fs: 164,900\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,970\u003cbr\u003etok\u002fs: 159,051\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,722\u003cbr\u003etok\u002fs: 151,097\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,257\u003cbr\u003etok\u002fs: 136,211\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,887\u003cbr\u003etok\u002fs: 124,385\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,557\u003cbr\u003etok\u002fs: 113,823\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,469\u003cbr\u003etok\u002fs: 111,008\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,657\u003cbr\u003etok\u002fs: 85,032\u003cbr\u003eGPU memory: 36.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,622\u003cbr\u003etok\u002fs: 83,900\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,237\u003cbr\u003etok\u002fs: 71,586\u003cbr\u003eGPU memory: 37.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,236\u003cbr\u003etok\u002fs: 71,545\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 68,937\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,992\u003cbr\u003etok\u002fs: 63,758\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,960\u003cbr\u003etok\u002fs: 62,708\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 60,766\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,491\u003cbr\u003etok\u002fs: 47,711\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,423\u003cbr\u003etok\u002fs: 45,529\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 43,975\u003cbr\u003eGPU memory: 77.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,359\u003cbr\u003etok\u002fs: 43,504\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,227\u003cbr\u003etok\u002fs: 39,266\u003cbr\u003eGPU memory: 20.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,152\u003cbr\u003etok\u002fs: 36,849\u003cbr\u003eGPU memory: 76.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 950\u003cbr\u003etok\u002fs: 30,401\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 933\u003cbr\u003etok\u002fs: 29,865\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 812\u003cbr\u003etok\u002fs: 25,975\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 25,021\u003cbr\u003eGPU memory: 76.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 779\u003cbr\u003etok\u002fs: 24,932\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 21,279\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 651\u003cbr\u003etok\u002fs: 20,832\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 645\u003cbr\u003etok\u002fs: 20,624\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 461\u003cbr\u003etok\u002fs: 14,761\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 420\u003cbr\u003etok\u002fs: 13,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 409\u003cbr\u003etok\u002fs: 13,095\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 8,965\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 262\u003cbr\u003etok\u002fs: 8,397\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 4,433\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 3,333\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.17647058823529413,0.29411764705882354,0.47058823529411764,0.6470588235294118,0.7058823529411765,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471],"y":[0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8736232687571303,0.8715081937499334,0.8654521755818789,0.84453332409293,0.8316149737181607,0.8113091874486891,0.8006871661460055,0.7972633301702724,0.7932970647503492,0.7763897921975457,0.7706243136335044,0.7560866714290284,0.7475010928553913,0.7442265249330959,0.7200024522608779,0.7058886247081276,0.668038511157787,0.663196628674393,0.6407691036453391,0.6305255834781589,0.6123708564787667,0.5682434881811687,0.542781290315702,0.5074380804128329,0.4724773698968984,0.4578904159247689,0.44867311362497475,0.44243317589107695,0.42037748824514076,0.35754629975157537,0.3062034203708246,0.2870104807497521,0.28344937147487503,0.27877008454969027,0.27281002441598873,0.2491990169632481,0.22872263863270462,0.20442259918329053,0.18394488810226994,0.17274045484108283,0.15768703820195967,0.15080338198761076,0.13932973313004446,0.12485339744751629,0.12411638643366635,0.11235990628330642,0.08905198290609327,0.08862657397831349,0.08839467539529379,0.08712056593916262,0.07810983996332271,0.07089832713160112,0.06331334369159075,0.0565059547291318,0.05567964943331451,0.03989588553272703,0.03588697209753602,0.035428150260733364,0.034877170216386214,0.032146283652757617,0.02910860317087994,0.02811570406542206,0.026800279344500005,0.020493704086746063,0.02009654444456291,0.013947233743109681,0.013725997163906984,0.012513194229723534,0.012453220458252926,0.004174374234291108],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[7.642692425537405,7.6362943671284125,7.617975036687039,7.554695941042718,7.51561819677154,7.454193610810985,7.4220622147683475,7.411705181338794,7.3997073099933885,7.348563158149361,7.33112270403638,7.287146635274387,7.261175436616084,7.251269935979101,7.177992614213608,7.1352985760590855,7.020802760800503,7.006156165841544,6.938313363758043,6.9073269258679915,6.852409249971779,6.71892486816855,6.641902243150408,6.534989759881311,6.429234329393172,6.385109093547919,6.357226943606779,6.338351260260277,6.271633258615407,6.081570205286159,5.926259050813566,5.868200803083324,5.8574285207463195,5.843273774007837,5.825244714647401,5.753821902565674,5.691881279127896,5.618374159423328,5.55642950444276,5.522536324200545,5.477000048378514,5.456177129864057,5.421469577978101,5.377678960184483,5.375449517021174,5.339544596926352,5.269109512828369,5.268093564045088,5.26739207559949,5.2635379206914905,5.236280659882924,5.214465981841931,5.191328957765558,5.170929351244134,5.168429794713841,5.120684233442454,5.1085573527277415,5.107061650352357,5.105396623179758,5.097144055087001,5.0880529260937575,5.085049426714615,5.0810702939801,5.0619930334940575,5.060791633742401,5.0421900953056715,5.041520859202399,5.037852155262776,5.037670735837191,5.012614697392398],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,555\u003cbr\u003etok\u002fs: 419,523\u003cbr\u003eGPU memory: 59.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,539\u003cbr\u003etok\u002fs: 418,507\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,494\u003cbr\u003etok\u002fs: 415,599\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,337\u003cbr\u003etok\u002fs: 405,553\u003cbr\u003eGPU memory: 55.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,240\u003cbr\u003etok\u002fs: 399,350\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,087\u003cbr\u003etok\u002fs: 389,599\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,008\u003cbr\u003etok\u002fs: 384,498\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 382,854\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,952\u003cbr\u003etok\u002fs: 380,949\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,825\u003cbr\u003etok\u002fs: 372,830\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,782\u003cbr\u003etok\u002fs: 370,061\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,673\u003cbr\u003etok\u002fs: 363,080\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 358,957\u003cbr\u003eGPU memory: 51.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,584\u003cbr\u003etok\u002fs: 357,385\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,402\u003cbr\u003etok\u002fs: 345,752\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,296\u003cbr\u003etok\u002fs: 338,975\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,012\u003cbr\u003etok\u002fs: 320,799\u003cbr\u003eGPU memory: 44.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,976\u003cbr\u003etok\u002fs: 318,474\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,808\u003cbr\u003etok\u002fs: 307,704\u003cbr\u003eGPU memory: 46.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 302,785\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,595\u003cbr\u003etok\u002fs: 294,067\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,264\u003cbr\u003etok\u002fs: 272,876\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,073\u003cbr\u003etok\u002fs: 260,649\u003cbr\u003eGPU memory: 47.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,807\u003cbr\u003etok\u002fs: 243,677\u003cbr\u003eGPU memory: 58.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,545\u003cbr\u003etok\u002fs: 226,888\u003cbr\u003eGPU memory: 27.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,436\u003cbr\u003etok\u002fs: 219,884\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,367\u003cbr\u003etok\u002fs: 215,457\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,320\u003cbr\u003etok\u002fs: 212,461\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,154\u003cbr\u003etok\u002fs: 201,869\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,683\u003cbr\u003etok\u002fs: 171,697\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,298\u003cbr\u003etok\u002fs: 147,042\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 137,825\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,127\u003cbr\u003etok\u002fs: 136,115\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,092\u003cbr\u003etok\u002fs: 133,868\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,047\u003cbr\u003etok\u002fs: 131,006\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,870\u003cbr\u003etok\u002fs: 119,668\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,716\u003cbr\u003etok\u002fs: 109,835\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,534\u003cbr\u003etok\u002fs: 98,166\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,380\u003cbr\u003etok\u002fs: 88,332\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,296\u003cbr\u003etok\u002fs: 82,952\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,183\u003cbr\u003etok\u002fs: 75,723\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,132\u003cbr\u003etok\u002fs: 72,417\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,045\u003cbr\u003etok\u002fs: 66,908\u003cbr\u003eGPU memory: 18.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 937\u003cbr\u003etok\u002fs: 59,956\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 931\u003cbr\u003etok\u002fs: 59,602\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 842\u003cbr\u003etok\u002fs: 53,902\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 772\u003cbr\u003etok\u002fs: 49,401\u003cbr\u003eGPU memory: 77.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 668\u003cbr\u003etok\u002fs: 42,721\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 42,448\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 41,836\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 39,402\u003cbr\u003eGPU memory: 75.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 37,509\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 532\u003cbr\u003etok\u002fs: 34,046\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 30,373\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 27,135\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 418\u003cbr\u003etok\u002fs: 26,738\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,158\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 17,233\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 266\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 16,732\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 15,421\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,978\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 13,501\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,870\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,841\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 9,651\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 6,698\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,591\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 6,009\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 5,980\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 2,003\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,555\u003cbr\u003etok\u002fs: 419,523\u003cbr\u003eGPU memory: 59.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,539\u003cbr\u003etok\u002fs: 418,507\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,494\u003cbr\u003etok\u002fs: 415,599\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,337\u003cbr\u003etok\u002fs: 405,553\u003cbr\u003eGPU memory: 55.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,240\u003cbr\u003etok\u002fs: 399,350\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,087\u003cbr\u003etok\u002fs: 389,599\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,008\u003cbr\u003etok\u002fs: 384,498\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 382,854\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,952\u003cbr\u003etok\u002fs: 380,949\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,825\u003cbr\u003etok\u002fs: 372,830\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,782\u003cbr\u003etok\u002fs: 370,061\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,673\u003cbr\u003etok\u002fs: 363,080\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 358,957\u003cbr\u003eGPU memory: 51.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,584\u003cbr\u003etok\u002fs: 357,385\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,402\u003cbr\u003etok\u002fs: 345,752\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,296\u003cbr\u003etok\u002fs: 338,975\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,012\u003cbr\u003etok\u002fs: 320,799\u003cbr\u003eGPU memory: 44.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,976\u003cbr\u003etok\u002fs: 318,474\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,808\u003cbr\u003etok\u002fs: 307,704\u003cbr\u003eGPU memory: 46.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 302,785\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,595\u003cbr\u003etok\u002fs: 294,067\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,264\u003cbr\u003etok\u002fs: 272,876\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,073\u003cbr\u003etok\u002fs: 260,649\u003cbr\u003eGPU memory: 47.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,807\u003cbr\u003etok\u002fs: 243,677\u003cbr\u003eGPU memory: 58.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,545\u003cbr\u003etok\u002fs: 226,888\u003cbr\u003eGPU memory: 27.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,436\u003cbr\u003etok\u002fs: 219,884\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,367\u003cbr\u003etok\u002fs: 215,457\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,320\u003cbr\u003etok\u002fs: 212,461\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,154\u003cbr\u003etok\u002fs: 201,869\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,683\u003cbr\u003etok\u002fs: 171,697\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,298\u003cbr\u003etok\u002fs: 147,042\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 137,825\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,127\u003cbr\u003etok\u002fs: 136,115\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,092\u003cbr\u003etok\u002fs: 133,868\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,047\u003cbr\u003etok\u002fs: 131,006\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,870\u003cbr\u003etok\u002fs: 119,668\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,716\u003cbr\u003etok\u002fs: 109,835\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,534\u003cbr\u003etok\u002fs: 98,166\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,380\u003cbr\u003etok\u002fs: 88,332\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,296\u003cbr\u003etok\u002fs: 82,952\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,183\u003cbr\u003etok\u002fs: 75,723\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,132\u003cbr\u003etok\u002fs: 72,417\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,045\u003cbr\u003etok\u002fs: 66,908\u003cbr\u003eGPU memory: 18.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 937\u003cbr\u003etok\u002fs: 59,956\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 931\u003cbr\u003etok\u002fs: 59,602\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 842\u003cbr\u003etok\u002fs: 53,902\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 772\u003cbr\u003etok\u002fs: 49,401\u003cbr\u003eGPU memory: 77.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 668\u003cbr\u003etok\u002fs: 42,721\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 42,448\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 41,836\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 39,402\u003cbr\u003eGPU memory: 75.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 37,509\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 532\u003cbr\u003etok\u002fs: 34,046\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 30,373\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 27,135\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 418\u003cbr\u003etok\u002fs: 26,738\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,158\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 17,233\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 266\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 16,732\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 15,421\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,978\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 13,501\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,870\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,841\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 9,651\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 6,698\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,591\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 6,009\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 5,980\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 2,003\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8823529411764706,0.23529411764705882,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705],"y":[0.45549999999999985,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8034166391231569,0.7593918926122976,0.7341909138403473,0.7250389163139321,0.7192960945080019,0.7164813255003146,0.7159908733247327,0.7118087023275154,0.7020702945911655,0.700365706730923,0.6928409975370772,0.6852469853184209,0.6753313217686132,0.6705040995404675,0.6691313665490293,0.6669963002846755,0.6667350811911592,0.6464852704417269,0.6462986853749294,0.6367202076958344,0.6305629004915185,0.6023459073898348,0.5794146026804278,0.5741209177852886,0.558914234841296,0.551793349042019,0.550683167894574,0.5475205510123573,0.526585706517683,0.5242400656779436,0.5070249277649242,0.5029240545468115,0.4877906728790609,0.480062052862215,0.4772619441097759,0.4708660745700547,0.4594484012325276,0.4429422865733386,0.43643979699544744,0.42738509025386234,0.4245663229947437,0.41918201106716,0.4187062191468265,0.4162512927679628,0.41569153756757055,0.4133805482402363,0.4125822307044386,0.4103618684095489,0.38661092215671017,0.38593255216385375,0.3651989529912252,0.3591082833107654,0.3080865967950017,0.3079906387606487,0.28722238807561495,0.2847474704395944,0.2838625241227837,0.27898732287746164,0.2761419006088004,0.27137465215212553,0.2542621360258447,0.2532572421660927,0.25139672250002665,0.23252097749250994,0.20206363083877985,0.2017091192118647,0.1969831860199806,0.18313457581217812,0.1714583488820889,0.1676919960337346,0.1661758481935234,0.15740316235033214,0.14629868537492938,0.13787037135759297,0.1358419251314092,0.1357446343465791,0.12297821752620189,0.12191201714450216,0.10560940017096605,0.10193142199144908,0.10165114885963919,0.087595025109019,0.08668075828171148,0.08582748225915124,0.08432178993720081,0.07683839600814577,0.07524975743941317,0.06901648345790108,0.06332164066914736,0.060638488996878806,0.058562641662728294,0.0391335522598117,0.03592029085946413,0.03535920290859464,0.03427282648735653,0.034199451420918056,0.033392325690094746,0.03169002414872196,0.027749197684212773,0.026593703020545683,0.02445996950666908,0.02022715399132113,0.020113870200765535,0.01848391636724206,0.0174405862463687,0.014888468026426582,0.014060517533665278,0.01249453572304379,0.01166689767674937,0.007292147511868073,0.00698761075156465,0.005450949451439903,0.004119676457491512,0.0022252656512616056],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[9.860637628807792,9.594289722791117,9.441824837528825,9.386455628840043,9.351711793068972,9.334682556320653,9.331715340826626,9.306413378271596,9.247496411926916,9.23718372546806,9.191659544274403,9.1457160826305,9.085726725903468,9.056522229926948,9.04821725177791,9.035300188676203,9.03371982390221,8.911209301575527,8.910080469594103,8.852131073519214,8.814879618132267,8.644167970198835,8.505434519681991,8.473407943751916,8.381408137265968,8.338327071003532,8.331610520714067,8.312476818628953,8.185821870313331,8.171630839689733,8.06747996323233,8.042669848897777,7.951113512118818,7.904355678831175,7.887415136024254,7.848720388318202,7.779643934140717,7.67978261921272,7.640442824660141,7.585662221218816,7.568608795213752,7.536033929464127,7.533155407911499,7.518303204270209,7.514916708325942,7.500935317927464,7.496105529664092,7.482672429085162,7.33898018093564,7.3348760703746105,7.209438647981809,7.172590346873941,6.863911241553918,6.863330699392043,6.737683636774121,6.722710486849107,6.717356598022931,6.687861830965474,6.670647143248778,6.641805486123429,6.53827546725581,6.53219590072729,6.52093983325539,6.4067423521633255,6.222476657367242,6.220331876602538,6.191740175130219,6.107956652851913,6.0373159600716,6.0145296802180255,6.004346003128477,5.952282659528148,5.885101030462337,5.83411007724436,5.8218380609891796,5.821249455741723,5.744013158955669,5.737562690490397,5.638289980809857,5.616680911451194,5.6143668058892775,5.529946299850026,5.524415023141056,5.518730547806034,5.51014336166164,5.464869136121011,5.455257938107755,5.417546886842657,5.383093322152521,5.3664914289400265,5.353945267775072,5.236756381932238,5.217316282595023,5.213921723565174,5.207140668591056,5.206697198884069,5.201819032107207,5.191530534905097,5.167881504894293,5.160890809695054,5.147981809678928,5.122373449871797,5.121688087597362,5.111826933931077,5.105408717808131,5.0899840350905485,5.085065552885778,5.07559142732741,5.070584251181242,5.044072825788973,5.042274757704278,5.032978020028705,5.024898808275951,5.013449226750093],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,617\u003cbr\u003eGPU memory: 66.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,698\u003cbr\u003etok\u002fs: 729,335\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,509\u003cbr\u003etok\u002fs: 705,132\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,440\u003cbr\u003etok\u002fs: 696,342\u003cbr\u003eGPU memory: 67.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,397\u003cbr\u003etok\u002fs: 690,826\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,376\u003cbr\u003etok\u002fs: 688,123\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,372\u003cbr\u003etok\u002fs: 687,652\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,341\u003cbr\u003etok\u002fs: 683,635\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,268\u003cbr\u003etok\u002fs: 674,282\u003cbr\u003eGPU memory: 35.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,255\u003cbr\u003etok\u002fs: 672,645\u003cbr\u003eGPU memory: 31.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,199\u003cbr\u003etok\u002fs: 665,418\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,142\u003cbr\u003etok\u002fs: 658,125\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,067\u003cbr\u003etok\u002fs: 648,602\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,031\u003cbr\u003etok\u002fs: 643,965\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,021\u003cbr\u003etok\u002fs: 642,647\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,005\u003cbr\u003etok\u002fs: 640,596\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,003\u003cbr\u003etok\u002fs: 640,346\u003cbr\u003eGPU memory: 27.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,851\u003cbr\u003etok\u002fs: 620,897\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,849\u003cbr\u003etok\u002fs: 620,718\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,777\u003cbr\u003etok\u002fs: 611,519\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 605,605\u003cbr\u003eGPU memory: 43.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,520\u003cbr\u003etok\u002fs: 578,505\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,348\u003cbr\u003etok\u002fs: 556,481\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,308\u003cbr\u003etok\u002fs: 551,397\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,194\u003cbr\u003etok\u002fs: 536,792\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,140\u003cbr\u003etok\u002fs: 529,953\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,132\u003cbr\u003etok\u002fs: 528,887\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,108\u003cbr\u003etok\u002fs: 525,850\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,951\u003cbr\u003etok\u002fs: 505,743\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,934\u003cbr\u003etok\u002fs: 503,491\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,804\u003cbr\u003etok\u002fs: 486,957\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,774\u003cbr\u003etok\u002fs: 483,018\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,660\u003cbr\u003etok\u002fs: 468,484\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,602\u003cbr\u003etok\u002fs: 461,061\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,581\u003cbr\u003etok\u002fs: 458,372\u003cbr\u003eGPU memory: 67.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,533\u003cbr\u003etok\u002fs: 452,229\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,447\u003cbr\u003etok\u002fs: 441,263\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,324\u003cbr\u003etok\u002fs: 425,411\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,275\u003cbr\u003etok\u002fs: 419,165\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,207\u003cbr\u003etok\u002fs: 410,469\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,186\u003cbr\u003etok\u002fs: 407,762\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,145\u003cbr\u003etok\u002fs: 402,591\u003cbr\u003eGPU memory: 40.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,142\u003cbr\u003etok\u002fs: 402,134\u003cbr\u003eGPU memory: 34.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,123\u003cbr\u003etok\u002fs: 399,776\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,119\u003cbr\u003etok\u002fs: 399,238\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,102\u003cbr\u003etok\u002fs: 397,019\u003cbr\u003eGPU memory: 61.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 396,252\u003cbr\u003eGPU memory: 60.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,079\u003cbr\u003etok\u002fs: 394,120\u003cbr\u003eGPU memory: 52.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,901\u003cbr\u003etok\u002fs: 371,309\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,896\u003cbr\u003etok\u002fs: 370,657\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,740\u003cbr\u003etok\u002fs: 350,744\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,694\u003cbr\u003etok\u002fs: 344,895\u003cbr\u003eGPU memory: 57.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,312\u003cbr\u003etok\u002fs: 295,892\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,311\u003cbr\u003etok\u002fs: 295,800\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,155\u003cbr\u003etok\u002fs: 275,854\u003cbr\u003eGPU memory: 65.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 273,477\u003cbr\u003eGPU memory: 20.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 272,627\u003cbr\u003eGPU memory: 41.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,093\u003cbr\u003etok\u002fs: 267,945\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,072\u003cbr\u003etok\u002fs: 265,212\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,036\u003cbr\u003etok\u002fs: 260,634\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,198\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,900\u003cbr\u003etok\u002fs: 243,233\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 241,446\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,745\u003cbr\u003etok\u002fs: 223,318\u003cbr\u003eGPU memory: 58.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 194,066\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 193,725\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,478\u003cbr\u003etok\u002fs: 189,187\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,886\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,286\u003cbr\u003etok\u002fs: 164,672\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,258\u003cbr\u003etok\u002fs: 161,055\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,246\u003cbr\u003etok\u002fs: 159,438\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,181\u003cbr\u003etok\u002fs: 151,173\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,098\u003cbr\u003etok\u002fs: 140,508\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,034\u003cbr\u003etok\u002fs: 132,413\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,465\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,372\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 973\u003cbr\u003etok\u002fs: 124,564\u003cbr\u003eGPU memory: 60.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 923\u003cbr\u003etok\u002fs: 118,111\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 915\u003cbr\u003etok\u002fs: 117,087\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 792\u003cbr\u003etok\u002fs: 101,327\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 765\u003cbr\u003etok\u002fs: 97,897\u003cbr\u003eGPU memory: 36.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 762\u003cbr\u003etok\u002fs: 97,530\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 657\u003cbr\u003etok\u002fs: 84,128\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 650\u003cbr\u003etok\u002fs: 83,250\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 82,348\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 80,984\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 584\u003cbr\u003etok\u002fs: 74,726\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 577\u003cbr\u003etok\u002fs: 73,797\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 72,271\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 518\u003cbr\u003etok\u002fs: 66,285\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 60,815\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 455\u003cbr\u003etok\u002fs: 58,180\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 439\u003cbr\u003etok\u002fs: 56,188\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,585\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 270\u003cbr\u003etok\u002fs: 34,499\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 265\u003cbr\u003etok\u002fs: 33,960\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 32,883\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,813\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,038\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 30,405\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,651\u003cbr\u003eGPU memory: 21.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 25,541\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 184\u003cbr\u003etok\u002fs: 23,492\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 152\u003cbr\u003etok\u002fs: 19,427\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 19,318\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 17,752\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 131\u003cbr\u003etok\u002fs: 16,733\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 112\u003cbr\u003etok\u002fs: 14,285\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 106\u003cbr\u003etok\u002fs: 13,504\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,000\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 11,205\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 6,996\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,711\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 5,235\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 3,953\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,135\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,617\u003cbr\u003eGPU memory: 66.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,698\u003cbr\u003etok\u002fs: 729,335\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,509\u003cbr\u003etok\u002fs: 705,132\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,440\u003cbr\u003etok\u002fs: 696,342\u003cbr\u003eGPU memory: 67.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,397\u003cbr\u003etok\u002fs: 690,826\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,376\u003cbr\u003etok\u002fs: 688,123\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,372\u003cbr\u003etok\u002fs: 687,652\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,341\u003cbr\u003etok\u002fs: 683,635\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,268\u003cbr\u003etok\u002fs: 674,282\u003cbr\u003eGPU memory: 35.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,255\u003cbr\u003etok\u002fs: 672,645\u003cbr\u003eGPU memory: 31.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,199\u003cbr\u003etok\u002fs: 665,418\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,142\u003cbr\u003etok\u002fs: 658,125\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,067\u003cbr\u003etok\u002fs: 648,602\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,031\u003cbr\u003etok\u002fs: 643,965\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,021\u003cbr\u003etok\u002fs: 642,647\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,005\u003cbr\u003etok\u002fs: 640,596\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,003\u003cbr\u003etok\u002fs: 640,346\u003cbr\u003eGPU memory: 27.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,851\u003cbr\u003etok\u002fs: 620,897\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,849\u003cbr\u003etok\u002fs: 620,718\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,777\u003cbr\u003etok\u002fs: 611,519\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 605,605\u003cbr\u003eGPU memory: 43.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,520\u003cbr\u003etok\u002fs: 578,505\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,348\u003cbr\u003etok\u002fs: 556,481\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,308\u003cbr\u003etok\u002fs: 551,397\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,194\u003cbr\u003etok\u002fs: 536,792\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,140\u003cbr\u003etok\u002fs: 529,953\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,132\u003cbr\u003etok\u002fs: 528,887\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,108\u003cbr\u003etok\u002fs: 525,850\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,951\u003cbr\u003etok\u002fs: 505,743\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,934\u003cbr\u003etok\u002fs: 503,491\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,804\u003cbr\u003etok\u002fs: 486,957\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,774\u003cbr\u003etok\u002fs: 483,018\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,660\u003cbr\u003etok\u002fs: 468,484\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,602\u003cbr\u003etok\u002fs: 461,061\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,581\u003cbr\u003etok\u002fs: 458,372\u003cbr\u003eGPU memory: 67.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,533\u003cbr\u003etok\u002fs: 452,229\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,447\u003cbr\u003etok\u002fs: 441,263\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,324\u003cbr\u003etok\u002fs: 425,411\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,275\u003cbr\u003etok\u002fs: 419,165\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,207\u003cbr\u003etok\u002fs: 410,469\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,186\u003cbr\u003etok\u002fs: 407,762\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,145\u003cbr\u003etok\u002fs: 402,591\u003cbr\u003eGPU memory: 40.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,142\u003cbr\u003etok\u002fs: 402,134\u003cbr\u003eGPU memory: 34.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,123\u003cbr\u003etok\u002fs: 399,776\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,119\u003cbr\u003etok\u002fs: 399,238\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,102\u003cbr\u003etok\u002fs: 397,019\u003cbr\u003eGPU memory: 61.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 396,252\u003cbr\u003eGPU memory: 60.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,079\u003cbr\u003etok\u002fs: 394,120\u003cbr\u003eGPU memory: 52.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,901\u003cbr\u003etok\u002fs: 371,309\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,896\u003cbr\u003etok\u002fs: 370,657\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,740\u003cbr\u003etok\u002fs: 350,744\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,694\u003cbr\u003etok\u002fs: 344,895\u003cbr\u003eGPU memory: 57.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,312\u003cbr\u003etok\u002fs: 295,892\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,311\u003cbr\u003etok\u002fs: 295,800\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,155\u003cbr\u003etok\u002fs: 275,854\u003cbr\u003eGPU memory: 65.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 273,477\u003cbr\u003eGPU memory: 20.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 272,627\u003cbr\u003eGPU memory: 41.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,093\u003cbr\u003etok\u002fs: 267,945\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,072\u003cbr\u003etok\u002fs: 265,212\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,036\u003cbr\u003etok\u002fs: 260,634\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,198\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,900\u003cbr\u003etok\u002fs: 243,233\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 241,446\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,745\u003cbr\u003etok\u002fs: 223,318\u003cbr\u003eGPU memory: 58.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 194,066\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 193,725\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,478\u003cbr\u003etok\u002fs: 189,187\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,886\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,286\u003cbr\u003etok\u002fs: 164,672\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,258\u003cbr\u003etok\u002fs: 161,055\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,246\u003cbr\u003etok\u002fs: 159,438\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,181\u003cbr\u003etok\u002fs: 151,173\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,098\u003cbr\u003etok\u002fs: 140,508\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,034\u003cbr\u003etok\u002fs: 132,413\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,465\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,372\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 973\u003cbr\u003etok\u002fs: 124,564\u003cbr\u003eGPU memory: 60.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 923\u003cbr\u003etok\u002fs: 118,111\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 915\u003cbr\u003etok\u002fs: 117,087\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 792\u003cbr\u003etok\u002fs: 101,327\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 765\u003cbr\u003etok\u002fs: 97,897\u003cbr\u003eGPU memory: 36.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 762\u003cbr\u003etok\u002fs: 97,530\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 657\u003cbr\u003etok\u002fs: 84,128\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 650\u003cbr\u003etok\u002fs: 83,250\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 82,348\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 80,984\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 584\u003cbr\u003etok\u002fs: 74,726\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 577\u003cbr\u003etok\u002fs: 73,797\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 72,271\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 518\u003cbr\u003etok\u002fs: 66,285\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 60,815\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 455\u003cbr\u003etok\u002fs: 58,180\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 439\u003cbr\u003etok\u002fs: 56,188\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,585\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 270\u003cbr\u003etok\u002fs: 34,499\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 265\u003cbr\u003etok\u002fs: 33,960\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 32,883\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,813\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,038\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 30,405\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,651\u003cbr\u003eGPU memory: 21.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 25,541\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 184\u003cbr\u003etok\u002fs: 23,492\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 152\u003cbr\u003etok\u002fs: 19,427\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 19,318\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 17,752\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 131\u003cbr\u003etok\u002fs: 16,733\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 112\u003cbr\u003etok\u002fs: 14,285\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 106\u003cbr\u003etok\u002fs: 13,504\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,000\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 11,205\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 6,996\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,711\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 5,235\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 3,953\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,135\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.7647058823529411,0.4117647058823529,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.2794999999999998,0.2664999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.7234076297299314,0.6258489620539285,0.6164637331940166,0.5476191745476645,0.5400891343519101,0.535127304325575,0.5238322440319434,0.5192968941582882,0.5155585290699535,0.5008916100691965,0.4999480227313921,0.48860231791962994,0.48384306596581766,0.4733983004765916,0.4704049429049697,0.4657869625017326,0.46101038479171774,0.4132725954515892,0.40794959004595327,0.3823901013956563,0.3785371197662889,0.37382318132869896,0.3608595174377073,0.36046369054600125,0.3500349180625007,0.33143771790470306,0.3295745327376827,0.28852981629367425,0.28827526095254347,0.2838518621189666,0.27490510816602876,0.26277841157467136,0.2548072309709887,0.25171524986405946,0.2513007644656737,0.2501159492915099,0.2341002868079027,0.21296019873975114,0.20200498981778636,0.19257711294260643,0.19114307342922032,0.19044337942872983,0.19022747385143565,0.17420781311639713,0.16337388448785067,0.14653991321128895,0.1448566493586805,0.12547536588615585,0.12317279909586208,0.12139890821080916,0.11784979369022615,0.11703548314870298,0.09620592594172149,0.09406819417641353,0.09081965496120216,0.09039779936241217,0.08833736712477745,0.0829277329381284,0.08193483383267051,0.08016494119904895,0.07516979241078568,0.0751164823917007,0.07053182075039184,0.06637230651128573,0.0640799756906313,0.054160313889392374,0.05206961532898115,0.051606685364360166,0.05010875243893337,0.0488026569713512,0.048242901770958836,0.04446721966926464,0.04347032231237539,0.04313846744357134,0.04229616914202855,0.040165101129106213,0.03948140013434125,0.035587103240182966,0.031105691801448225,0.029859649764111092,0.02404681685876044,0.023834909532897613,0.02304458849996268,0.022280922476570247,0.020958834003262577,0.020601656875393167,0.020581665618236294,0.02032977577805973,0.019888635370131462,0.018999690801889308,0.01854788839014404,0.016065137273676425,0.015486560544188675,0.014659004182291694,0.014236440596645736,0.012529187235449032,0.012084048576089391,0.0117441972044226,0.011533622629036904,0.011063161710611892,0.010836594129500698,0.010192875649049483,0.010175549892846861,0.00843413036407427,0.00799521405756044,0.006326566514910813,0.00607467667473425,0.006016035653740765,0.0060147029032636395,0.004277099327304983,0.0040703150491601696,0.003194602893667835,0.0021652315059937583],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[13.753172824176357,12.572720968860363,12.459160471529245,11.62614697392398,11.53503410685201,11.474996371611487,11.338327071003532,11.283449710535226,11.238215800422505,11.0607472867717,11.04932995758817,10.912047862476012,10.854461305252293,10.728080501846446,10.691861121413943,10.63598393833352,10.578187740884681,10.000564415990711,9.936156488364968,9.626888777797486,9.580268016964732,9.523229749560562,9.366370482656302,9.361581009820839,9.235393720468949,9.010369128057924,8.9878247407718,8.491187047459322,8.488106948767154,8.434584186676558,8.326329199658126,8.179597168244344,8.08314653851736,8.04573382141878,8.040718582187031,8.026382416022964,7.8325942171550205,7.576800890164648,7.4442437632033025,7.330167228394962,7.31281546822338,7.30434922836271,7.301736788634274,7.107900211252842,6.976810565867346,6.77312089790521,6.752753543726113,6.516714776410637,6.4903807389011625,6.468916805082969,6.425972811275419,6.416119720694716,6.164083791585364,6.138217413039622,6.097805228104691,6.093805937656223,6.068874877037945,6.003418748286594,5.991404750770025,5.96998919546532,5.9095483059457194,5.908903259099192,5.85342923029785,5.803099450097563,5.775362435696892,5.655335343729338,5.629404460498944,5.62380867910532,5.606311783393269,5.5905081356533515,5.583735143764816,5.538049700859525,5.525987324829465,5.521971908209833,5.511780168034703,5.4859944203447775,5.477721694538066,5.430601022399252,5.375997806840722,5.360935962974311,5.29096450629727,5.288400445082324,5.2788376255825575,5.269597329506055,5.25360016771218,5.249278353840448,5.249036461273,5.245988614923159,5.240650852268146,5.2298946961023045,5.224427924077986,5.194191353147023,5.18738610891616,5.17719436874103,5.172259760365097,5.151602135105062,5.1462159939365595,5.1421038202899485,5.139555885246166,5.133863346825563,5.131121897727822,5.123332957056006,5.123123316830885,5.101949654093628,5.096644143780942,5.076550934511619,5.073503088161778,5.072793536630598,5.072777410459435,5.051700504749157,5.049200948218864,5.038654432278144,5.026172775797843],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,428\u003cbr\u003etok\u002fs: 1,389,550\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,696\u003cbr\u003etok\u002fs: 1,202,156\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,626\u003cbr\u003etok\u002fs: 1,184,128\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,889\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,052\u003cbr\u003etok\u002fs: 1,037,425\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,015\u003cbr\u003etok\u002fs: 1,027,894\u003cbr\u003eGPU memory: 48.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,930\u003cbr\u003etok\u002fs: 1,006,198\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,896\u003cbr\u003etok\u002fs: 997,486\u003cbr\u003eGPU memory: 50.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,868\u003cbr\u003etok\u002fs: 990,305\u003cbr\u003eGPU memory: 29.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 962,132\u003cbr\u003eGPU memory: 33.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,751\u003cbr\u003etok\u002fs: 960,320\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,666\u003cbr\u003etok\u002fs: 938,527\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,630\u003cbr\u003etok\u002fs: 929,385\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,552\u003cbr\u003etok\u002fs: 909,322\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,530\u003cbr\u003etok\u002fs: 903,572\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,495\u003cbr\u003etok\u002fs: 894,702\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,459\u003cbr\u003etok\u002fs: 885,527\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 793,830\u003cbr\u003eGPU memory: 42.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 783,606\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,869\u003cbr\u003etok\u002fs: 734,510\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,840\u003cbr\u003etok\u002fs: 727,109\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,805\u003cbr\u003etok\u002fs: 718,054\u003cbr\u003eGPU memory: 40.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,708\u003cbr\u003etok\u002fs: 693,153\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,705\u003cbr\u003etok\u002fs: 692,393\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,626\u003cbr\u003etok\u002fs: 672,361\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,487\u003cbr\u003etok\u002fs: 636,639\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,473\u003cbr\u003etok\u002fs: 633,060\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,165\u003cbr\u003etok\u002fs: 554,220\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,163\u003cbr\u003etok\u002fs: 553,731\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 545,234\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,063\u003cbr\u003etok\u002fs: 528,049\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,972\u003cbr\u003etok\u002fs: 504,755\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,912\u003cbr\u003etok\u002fs: 489,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,889\u003cbr\u003etok\u002fs: 483,505\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 482,708\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,877\u003cbr\u003etok\u002fs: 480,433\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,757\u003cbr\u003etok\u002fs: 449,669\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,598\u003cbr\u003etok\u002fs: 409,062\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 388,019\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 369,910\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,434\u003cbr\u003etok\u002fs: 367,155\u003cbr\u003eGPU memory: 33.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,429\u003cbr\u003etok\u002fs: 365,811\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,427\u003cbr\u003etok\u002fs: 365,396\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,307\u003cbr\u003etok\u002fs: 334,625\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,226\u003cbr\u003etok\u002fs: 313,815\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,100\u003cbr\u003etok\u002fs: 281,480\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,087\u003cbr\u003etok\u002fs: 278,246\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 941\u003cbr\u003etok\u002fs: 240,776\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 924\u003cbr\u003etok\u002fs: 236,595\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 911\u003cbr\u003etok\u002fs: 233,188\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 884\u003cbr\u003etok\u002fs: 226,371\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 878\u003cbr\u003etok\u002fs: 224,806\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 722\u003cbr\u003etok\u002fs: 184,796\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 706\u003cbr\u003etok\u002fs: 180,690\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 681\u003cbr\u003etok\u002fs: 174,275\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 173,640\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 169,682\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 622\u003cbr\u003etok\u002fs: 159,291\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,384\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 602\u003cbr\u003etok\u002fs: 153,984\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,389\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,287\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 135,480\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 498\u003cbr\u003etok\u002fs: 127,491\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 481\u003cbr\u003etok\u002fs: 123,087\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 406\u003cbr\u003etok\u002fs: 104,033\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 390\u003cbr\u003etok\u002fs: 99,917\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 387\u003cbr\u003etok\u002fs: 99,028\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 376\u003cbr\u003etok\u002fs: 96,251\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 366\u003cbr\u003etok\u002fs: 93,742\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 362\u003cbr\u003etok\u002fs: 92,667\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 334\u003cbr\u003etok\u002fs: 85,414\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 83,500\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 324\u003cbr\u003etok\u002fs: 82,862\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 317\u003cbr\u003etok\u002fs: 81,244\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 77,151\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 296\u003cbr\u003etok\u002fs: 75,837\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 267\u003cbr\u003etok\u002fs: 68,357\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 233\u003cbr\u003etok\u002fs: 59,689\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 57,298\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 180\u003cbr\u003etok\u002fs: 46,190\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 179\u003cbr\u003etok\u002fs: 45,783\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 44,265\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 42,798\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 157\u003cbr\u003etok\u002fs: 40,259\u003cbr\u003eGPU memory: 18.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,572\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 39,534\u003cbr\u003eGPU memory: 41.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,050\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 149\u003cbr\u003etok\u002fs: 38,203\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 36,495\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 35,628\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 30,828\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 29,747\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,129\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 27,346\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 24,067\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,212\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 22,559\u003cbr\u003eGPU memory: 22.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 87\u003cbr\u003etok\u002fs: 22,154\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 83\u003cbr\u003etok\u002fs: 21,251\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 20,815\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,579\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,546\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 63\u003cbr\u003etok\u002fs: 16,184\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,342\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 12,152\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 11,668\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,556\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,553\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 8,207\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 7,811\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 6,136\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 4,155\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.06449999999999982],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,428\u003cbr\u003etok\u002fs: 1,389,550\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,696\u003cbr\u003etok\u002fs: 1,202,156\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,626\u003cbr\u003etok\u002fs: 1,184,128\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,889\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,052\u003cbr\u003etok\u002fs: 1,037,425\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,015\u003cbr\u003etok\u002fs: 1,027,894\u003cbr\u003eGPU memory: 48.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,930\u003cbr\u003etok\u002fs: 1,006,198\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,896\u003cbr\u003etok\u002fs: 997,486\u003cbr\u003eGPU memory: 50.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,868\u003cbr\u003etok\u002fs: 990,305\u003cbr\u003eGPU memory: 29.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 962,132\u003cbr\u003eGPU memory: 33.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,751\u003cbr\u003etok\u002fs: 960,320\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,666\u003cbr\u003etok\u002fs: 938,527\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,630\u003cbr\u003etok\u002fs: 929,385\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,552\u003cbr\u003etok\u002fs: 909,322\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,530\u003cbr\u003etok\u002fs: 903,572\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,495\u003cbr\u003etok\u002fs: 894,702\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,459\u003cbr\u003etok\u002fs: 885,527\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 793,830\u003cbr\u003eGPU memory: 42.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 783,606\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,869\u003cbr\u003etok\u002fs: 734,510\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,840\u003cbr\u003etok\u002fs: 727,109\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,805\u003cbr\u003etok\u002fs: 718,054\u003cbr\u003eGPU memory: 40.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,708\u003cbr\u003etok\u002fs: 693,153\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,705\u003cbr\u003etok\u002fs: 692,393\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,626\u003cbr\u003etok\u002fs: 672,361\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,487\u003cbr\u003etok\u002fs: 636,639\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,473\u003cbr\u003etok\u002fs: 633,060\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,165\u003cbr\u003etok\u002fs: 554,220\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,163\u003cbr\u003etok\u002fs: 553,731\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 545,234\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,063\u003cbr\u003etok\u002fs: 528,049\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,972\u003cbr\u003etok\u002fs: 504,755\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,912\u003cbr\u003etok\u002fs: 489,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,889\u003cbr\u003etok\u002fs: 483,505\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 482,708\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,877\u003cbr\u003etok\u002fs: 480,433\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,757\u003cbr\u003etok\u002fs: 449,669\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,598\u003cbr\u003etok\u002fs: 409,062\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 388,019\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 369,910\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,434\u003cbr\u003etok\u002fs: 367,155\u003cbr\u003eGPU memory: 33.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,429\u003cbr\u003etok\u002fs: 365,811\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,427\u003cbr\u003etok\u002fs: 365,396\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,307\u003cbr\u003etok\u002fs: 334,625\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,226\u003cbr\u003etok\u002fs: 313,815\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,100\u003cbr\u003etok\u002fs: 281,480\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,087\u003cbr\u003etok\u002fs: 278,246\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 941\u003cbr\u003etok\u002fs: 240,776\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 924\u003cbr\u003etok\u002fs: 236,595\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 911\u003cbr\u003etok\u002fs: 233,188\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 884\u003cbr\u003etok\u002fs: 226,371\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 878\u003cbr\u003etok\u002fs: 224,806\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 722\u003cbr\u003etok\u002fs: 184,796\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 706\u003cbr\u003etok\u002fs: 180,690\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 681\u003cbr\u003etok\u002fs: 174,275\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 173,640\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 169,682\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 622\u003cbr\u003etok\u002fs: 159,291\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,384\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 602\u003cbr\u003etok\u002fs: 153,984\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,389\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,287\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 135,480\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 498\u003cbr\u003etok\u002fs: 127,491\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 481\u003cbr\u003etok\u002fs: 123,087\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 406\u003cbr\u003etok\u002fs: 104,033\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 390\u003cbr\u003etok\u002fs: 99,917\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 387\u003cbr\u003etok\u002fs: 99,028\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 376\u003cbr\u003etok\u002fs: 96,251\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 366\u003cbr\u003etok\u002fs: 93,742\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 362\u003cbr\u003etok\u002fs: 92,667\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 334\u003cbr\u003etok\u002fs: 85,414\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 83,500\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 324\u003cbr\u003etok\u002fs: 82,862\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 317\u003cbr\u003etok\u002fs: 81,244\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 77,151\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 296\u003cbr\u003etok\u002fs: 75,837\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 267\u003cbr\u003etok\u002fs: 68,357\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 233\u003cbr\u003etok\u002fs: 59,689\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 57,298\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 180\u003cbr\u003etok\u002fs: 46,190\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 179\u003cbr\u003etok\u002fs: 45,783\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 44,265\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 42,798\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 157\u003cbr\u003etok\u002fs: 40,259\u003cbr\u003eGPU memory: 18.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,572\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 39,534\u003cbr\u003eGPU memory: 41.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,050\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 149\u003cbr\u003etok\u002fs: 38,203\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 36,495\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 35,628\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 30,828\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 29,747\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,129\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 27,346\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 24,067\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,212\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 22,559\u003cbr\u003eGPU memory: 22.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 87\u003cbr\u003etok\u002fs: 22,154\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 83\u003cbr\u003etok\u002fs: 21,251\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 20,815\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,579\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,546\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 63\u003cbr\u003etok\u002fs: 16,184\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,342\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 12,152\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 11,668\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,556\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,553\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 8,207\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 7,811\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 6,136\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 4,155\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471],"y":[0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.41322594918488986,0.287415636894798,0.21240310904031304,0.17804126348268456,0.17683999530871836,0.1731642694928085,0.1657061978228188,0.16310466889147146,0.15655037356891163,0.13288224532009138,0.13259267946817926,0.1244482413024704,0.11820189566392666,0.11194970732799524,0.11157920269535457,0.10724909639517652,0.10447297715132582,0.10309358040750179,0.09009124066528557,0.08442935372046888,0.07716092162360995,0.07247097269460823,0.06958956616306469,0.0694336343572411,0.06868706673912178,0.06799293109146934,0.06655755882760606,0.05973654188568199,0.05220035635645335,0.05146149417321492,0.04794969666599141,0.04691068111229731,0.04541213975754604,0.04340768303995053,0.04146986384621127,0.03835789148212515,0.03504467379599322,0.031740785363201164,0.03165133547732712,0.026704521907256352,0.025921409834540186,0.024870456653623488,0.02312322077811304,0.02196372786301458,0.021901088590589715,0.021359991896877102,0.02071494066594876,0.01961675427279803,0.01886375025322259,0.01834930856905247,0.015446118531359049,0.015332720701408668,0.014302801587035788,0.012257306138115598,0.012207994370461986,0.011854815494023948,0.011360365067010695,0.010976909939196946,0.010697988079879733,0.010539390773101898,0.010372796963461313,0.010123572624238998,0.010028947340363147,0.009537162414304145,0.008994449053240861,0.008043241373774717,0.007225442906014907,0.006405198793061169,0.00587476410316555,0.0057135012954334635,0.005553571238178502,0.005335000159930057,0.005300347981092544,0.0052270473712829595,0.00509910332547899,0.0049374749252513225,0.004226403826856576,0.0037274533750748986,0.003221257903210328,0.0030480003411841217,0.0030173470802102543,0.0029786973163736393,0.0029520423068311458,0.002577465970166322,0.0021452201242378077,0.0016166263287522241,0.001583307566824107,0.0013234193801268071],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,11.955411136733805,10.140120301236877,9.304236345164567,9.279498798600248,9.190546838464144,9.010062730805824,8.947106158584766,8.784683362629211,8.212494557417232,8.208721033365048,8.011626969408653,7.857589782457951,7.709164503072036,7.700198351905307,7.595410491686959,7.528228862621147,7.494847688313364,7.178000677299188,7.041121736466111,6.867281611327023,6.753785618680556,6.684056054570963,6.680282530518779,6.660544097015046,6.6454177484639825,6.6106819757784905,6.445614487752173,6.261969650545871,6.245359694247795,6.160374772217832,6.134089113221847,6.09896631242844,6.050458789569593,6.003563883827063,5.928254664495009,5.848075341471675,5.768121784844624,5.765186821692925,5.645595136346778,5.626663011401203,5.601860960152231,5.5595781393623716,5.531518601538437,5.530002741449097,5.516908290464595,5.5012981567786365,5.474722226701714,5.45649965328732,5.4440502491493445,5.373417619454613,5.370676170356872,5.345777362080921,5.296624792375546,5.295431455709471,5.286884584992985,5.2749189659899045,5.265372272661302,5.258889551853703,5.255051523116866,5.251019980326071,5.244988792311042,5.2426988760058695,5.230797761687443,5.217445291964329,5.194449371885633,5.174678686039574,5.155004757220493,5.142168324974601,5.138265791553112,5.134395510473948,5.129106126332425,5.128138556062634,5.12649368660399,5.123397461740659,5.119365918949864,5.102175420489913,5.090113044459854,5.077953911402815,5.073761106900388,5.073019303026882,5.072083985099418,5.071438938252891,5.06231152537453,5.051861766460789,5.039122091241876,5.038315782683718,5.0319943235877505],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 1,587,482\u003cbr\u003eGPU memory: 57.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,157\u003cbr\u003etok\u002fs: 1,104,159\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,594\u003cbr\u003etok\u002fs: 815,985\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,335\u003cbr\u003etok\u002fs: 683,290\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,327\u003cbr\u003etok\u002fs: 679,363\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 665,242\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,243\u003cbr\u003etok\u002fs: 636,590\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,224\u003cbr\u003etok\u002fs: 626,596\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 600,812\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 996\u003cbr\u003etok\u002fs: 509,978\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 995\u003cbr\u003etok\u002fs: 509,379\u003cbr\u003eGPU memory: 33.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 934\u003cbr\u003etok\u002fs: 478,090\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 886\u003cbr\u003etok\u002fs: 453,637\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 840\u003cbr\u003etok\u002fs: 430,075\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 837\u003cbr\u003etok\u002fs: 428,652\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 805\u003cbr\u003etok\u002fs: 412,017\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 784\u003cbr\u003etok\u002fs: 401,352\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 396,052\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,754\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 324,024\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,428\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 544\u003cbr\u003etok\u002fs: 278,410\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 522\u003cbr\u003etok\u002fs: 267,341\u003cbr\u003eGPU memory: 17.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 521\u003cbr\u003etok\u002fs: 266,742\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 515\u003cbr\u003etok\u002fs: 263,608\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 510\u003cbr\u003etok\u002fs: 261,207\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 499\u003cbr\u003etok\u002fs: 255,693\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 448\u003cbr\u003etok\u002fs: 229,489\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,335\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,699\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 360\u003cbr\u003etok\u002fs: 184,207\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 352\u003cbr\u003etok\u002fs: 180,035\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 341\u003cbr\u003etok\u002fs: 174,459\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 166,758\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 159,314\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 288\u003cbr\u003etok\u002fs: 147,359\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 263\u003cbr\u003etok\u002fs: 134,630\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 121,938\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 121,472\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 102,487\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 194\u003cbr\u003etok\u002fs: 99,482\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 187\u003cbr\u003etok\u002fs: 95,544\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 88,832\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 165\u003cbr\u003etok\u002fs: 84,378\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 84,137\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 82,058\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 79,580\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 147\u003cbr\u003etok\u002fs: 75,361\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 142\u003cbr\u003etok\u002fs: 72,468\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,492\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 59,279\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 115\u003cbr\u003etok\u002fs: 58,844\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 54,892\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 47,089\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,899\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 89\u003cbr\u003etok\u002fs: 45,542\u003cbr\u003eGPU memory: 10.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 43,643\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 82\u003cbr\u003etok\u002fs: 42,127\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 41,098\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,489\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,849\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 38,892\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,528\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 36,639\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 34,519\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 30,868\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 27,730\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,607\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,569\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,949\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,335\u003cbr\u003eGPU memory: 11.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,495\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,342\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 20,081\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,589\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,949\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,220\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,305\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,375\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,709\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,592\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,443\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,341\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19\u003cbr\u003etok\u002fs: 9,892\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 8,233\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,211\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,083\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,079\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 1,587,482\u003cbr\u003eGPU memory: 57.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,157\u003cbr\u003etok\u002fs: 1,104,159\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,594\u003cbr\u003etok\u002fs: 815,985\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,335\u003cbr\u003etok\u002fs: 683,290\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,327\u003cbr\u003etok\u002fs: 679,363\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 665,242\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,243\u003cbr\u003etok\u002fs: 636,590\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,224\u003cbr\u003etok\u002fs: 626,596\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 600,812\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 996\u003cbr\u003etok\u002fs: 509,978\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 995\u003cbr\u003etok\u002fs: 509,379\u003cbr\u003eGPU memory: 33.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 934\u003cbr\u003etok\u002fs: 478,090\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 886\u003cbr\u003etok\u002fs: 453,637\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 840\u003cbr\u003etok\u002fs: 430,075\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 837\u003cbr\u003etok\u002fs: 428,652\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 805\u003cbr\u003etok\u002fs: 412,017\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 784\u003cbr\u003etok\u002fs: 401,352\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 396,052\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,754\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 324,024\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,428\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 544\u003cbr\u003etok\u002fs: 278,410\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 522\u003cbr\u003etok\u002fs: 267,341\u003cbr\u003eGPU memory: 17.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 521\u003cbr\u003etok\u002fs: 266,742\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 515\u003cbr\u003etok\u002fs: 263,608\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 510\u003cbr\u003etok\u002fs: 261,207\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 499\u003cbr\u003etok\u002fs: 255,693\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 448\u003cbr\u003etok\u002fs: 229,489\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,335\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,699\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 360\u003cbr\u003etok\u002fs: 184,207\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 352\u003cbr\u003etok\u002fs: 180,035\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 341\u003cbr\u003etok\u002fs: 174,459\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 166,758\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 159,314\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 288\u003cbr\u003etok\u002fs: 147,359\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 263\u003cbr\u003etok\u002fs: 134,630\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 121,938\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 121,472\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 102,487\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 194\u003cbr\u003etok\u002fs: 99,482\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 187\u003cbr\u003etok\u002fs: 95,544\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 88,832\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 165\u003cbr\u003etok\u002fs: 84,378\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 84,137\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 82,058\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 79,580\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 147\u003cbr\u003etok\u002fs: 75,361\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 142\u003cbr\u003etok\u002fs: 72,468\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,492\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 59,279\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 115\u003cbr\u003etok\u002fs: 58,844\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 54,892\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 47,089\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,899\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 89\u003cbr\u003etok\u002fs: 45,542\u003cbr\u003eGPU memory: 10.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 43,643\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 82\u003cbr\u003etok\u002fs: 42,127\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 41,098\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,489\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,849\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 38,892\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,528\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 36,639\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 34,519\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 30,868\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 27,730\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,607\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,569\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,949\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,335\u003cbr\u003eGPU memory: 11.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,495\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,342\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 20,081\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,589\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,949\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,220\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,305\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,375\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,709\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,592\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,443\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,341\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19\u003cbr\u003etok\u002fs: 9,892\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 8,233\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,211\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,083\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,079\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.430437671791464,0.3785799745795191,0.3737772728493057,0.15851632585253872,0.10925181985682786,0.09973721569456612],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.518652642306012,5.512611005968846,5.457344591643617,5.191003057213568,5.131642160430921,5.1201776095501526],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 285\u003cbr\u003etok\u002fs: 9,120\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 282\u003cbr\u003etok\u002fs: 9,014\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 251\u003cbr\u003etok\u002fs: 8,042\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 3,359\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 2,315\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 2,113\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 285\u003cbr\u003etok\u002fs: 9,120\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 282\u003cbr\u003etok\u002fs: 9,014\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 251\u003cbr\u003etok\u002fs: 8,042\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 3,359\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 2,315\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 2,113\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8937196822593433,0.4654302715437823,0.4497991361343522,0.3688497072077426,0.39842027365813876,0.3434488711129117,0.37168876672607004,0.353223389709176,0.2031896577763011,0.2014679674993204,0.15668891775153293,0.1563113540943003,0.10419246684991089,0.09605219439997584,0.0921104298184674,0.08081372519406772],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[7.42025767942932,6.121633425535013,6.083964186926773,5.998871742611734,5.960147037414471,5.930084437327122,5.895727180084437,5.864390741010336,5.489663706507497,5.4855146309506475,5.377602271072936,5.376692386082399,5.251091861988645,5.231474741592662,5.221975542291454,5.194751783374581],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 19,724\u003cbr\u003eGPU memory: 64.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 298\u003cbr\u003etok\u002fs: 19,061\u003cbr\u003eGPU memory: 65.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 17,565\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,884\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 16,355\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 246\u003cbr\u003etok\u002fs: 15,751\u003cbr\u003eGPU memory: 61.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 15,200\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 189\u003cbr\u003etok\u002fs: 12,109\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 169\u003cbr\u003etok\u002fs: 10,799\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 8,611\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 133\u003cbr\u003etok\u002fs: 8,538\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,640\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,624\u003cbr\u003eGPU memory: 56.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 98\u003cbr\u003etok\u002fs: 6,280\u003cbr\u003eGPU memory: 74.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 4,415\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 4,070\u003cbr\u003eGPU memory: 43.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 61\u003cbr\u003etok\u002fs: 3,903\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 3,425\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 19,724\u003cbr\u003eGPU memory: 64.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 298\u003cbr\u003etok\u002fs: 19,061\u003cbr\u003eGPU memory: 65.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 17,565\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,884\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 16,355\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 246\u003cbr\u003etok\u002fs: 15,751\u003cbr\u003eGPU memory: 61.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 15,200\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 189\u003cbr\u003etok\u002fs: 12,109\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 169\u003cbr\u003etok\u002fs: 10,799\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 8,611\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 133\u003cbr\u003etok\u002fs: 8,538\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,640\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,624\u003cbr\u003eGPU memory: 56.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 98\u003cbr\u003etok\u002fs: 6,280\u003cbr\u003eGPU memory: 74.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 4,415\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 4,070\u003cbr\u003eGPU memory: 43.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 61\u003cbr\u003etok\u002fs: 3,903\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 3,425\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5294117647058824,0.5882352941176471,0.8823529411764706,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[1.0,0.8492346201038458,0.9448606034977498,0.7116470836983116,0.6715951309390763,0.45570423173347024,0.42007732503700124,0.393768689401033,0.3782432718156281,0.3638052375630531,0.3619778294620473,0.3446703114145045,0.3041111741554673,0.2946362591042208,0.25812087726842425,0.1852176276920289,0.18367716797051983,0.17241066843869876,0.1559639955296463,0.15466517654876613,0.13770501706587732,0.12222490711934034,0.10114175249947142,0.097351013380856,0.09333373606790105,0.09097773884676957,0.08283746639683451,0.07791403630652129,0.04542845923822757,0.04539825414564896,0.02355997221131483,0.02235176850817048],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[9.819769981074392,9.599577813364391,9.554010773038287,8.429975251128257,8.236934051535886,7.196389576357548,7.024676080943369,6.897874508662105,6.823045567040326,6.753457562964042,6.744649876255641,6.661231620323191,6.647110205270054,6.595792691803756,6.398020090260591,5.892706361915854,5.885281700393071,5.83097976415781,5.75171058378221,5.745450575047314,5.663706507497452,5.5890959382734025,5.487479982530208,5.469209491920221,5.44984713932159,5.438491774639686,5.399257533847722,5.375527733294511,5.218954724122871,5.2188091425243845,5.113553646819042,5.107730382879604],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,754\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 632\u003cbr\u003etok\u002fs: 80,882\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 626\u003cbr\u003etok\u002fs: 80,081\u003cbr\u003eGPU memory: 64.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 471\u003cbr\u003etok\u002fs: 60,315\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 445\u003cbr\u003etok\u002fs: 56,920\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 38,623\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 35,603\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 33,373\u003cbr\u003eGPU memory: 62.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,058\u003cbr\u003eGPU memory: 50.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 30,834\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 30,679\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 228\u003cbr\u003etok\u002fs: 29,212\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 226\u003cbr\u003etok\u002fs: 28,964\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 219\u003cbr\u003etok\u002fs: 28,061\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 24,584\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 123\u003cbr\u003etok\u002fs: 15,698\u003cbr\u003eGPU memory: 44.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 122\u003cbr\u003etok\u002fs: 15,567\u003cbr\u003eGPU memory: 38.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 14,612\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 13,219\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,108\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 11,671\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 10,359\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 8,572\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 8,251\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 7,910\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 7,711\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 7,021\u003cbr\u003eGPU memory: 32.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,604\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,850\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,848\u003cbr\u003eGPU memory: 35.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 1,997\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15\u003cbr\u003etok\u002fs: 1,894\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,754\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 632\u003cbr\u003etok\u002fs: 80,882\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 626\u003cbr\u003etok\u002fs: 80,081\u003cbr\u003eGPU memory: 64.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 471\u003cbr\u003etok\u002fs: 60,315\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 445\u003cbr\u003etok\u002fs: 56,920\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 38,623\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 35,603\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 33,373\u003cbr\u003eGPU memory: 62.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,058\u003cbr\u003eGPU memory: 50.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 30,834\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 30,679\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 228\u003cbr\u003etok\u002fs: 29,212\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 226\u003cbr\u003etok\u002fs: 28,964\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 219\u003cbr\u003etok\u002fs: 28,061\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 24,584\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 123\u003cbr\u003etok\u002fs: 15,698\u003cbr\u003eGPU memory: 44.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 122\u003cbr\u003etok\u002fs: 15,567\u003cbr\u003eGPU memory: 38.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 14,612\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 13,219\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,108\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 11,671\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 10,359\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 8,572\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 8,251\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 7,910\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 7,711\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 7,021\u003cbr\u003eGPU memory: 32.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,604\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,850\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,848\u003cbr\u003eGPU memory: 35.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 1,997\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15\u003cbr\u003etok\u002fs: 1,894\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8966834808348688,0.8923943576887063,0.7772521449060076,0.8238287975352645,0.711881950850316,0.62592503096022,0.42895762225511214,0.4050200863865647,0.38852810583864444,0.35629927205726886,0.34992599752318243,0.30011961419770816,0.2879567799829875,0.2752966807230242,0.26260970227142616,0.26520071284018487,0.2336061860029601,0.1666263932098952,0.1569758661310297,0.1379315552602169,0.12773733651493643,0.11245355967016038,0.1049475941643761,0.10026580481469176,0.09922372912072976,0.09105325157821609,0.0889993052828707,0.08745884556136165,0.06758389464463709,0.061074697193946904,0.05578880599269037,0.04403902497961156,0.03176065484640711,0.020569668046032562,0.01614462198326638],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[13.643616246906392,13.60227107293638,13.419420585238026,12.941330615810163,12.71131169020236,11.033629349250255,9.134954141796477,8.904207308196245,8.745232202649586,8.434561071480564,8.373125636919493,8.25098267578978,8.119231329159994,7.982093463386228,7.84466443441549,7.556412869413306,7.251856165380696,6.606201776095501,6.513175134662978,6.329596738972194,6.231329159994177,6.084000582326394,6.0116465278788755,5.966516232348232,5.956471102052701,5.8777114572718006,5.857912359877711,5.843063036832144,5.6514776532246325,5.588731984277187,5.5377784248071045,5.424515941185034,5.306158101615956,5.198282137137865,5.155626728781482],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 594\u003cbr\u003etok\u002fs: 151,995\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 591\u003cbr\u003etok\u002fs: 151,268\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 148,052\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 545\u003cbr\u003etok\u002fs: 139,645\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 530\u003cbr\u003etok\u002fs: 135,601\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 414\u003cbr\u003etok\u002fs: 106,099\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 284\u003cbr\u003etok\u002fs: 72,712\u003cbr\u003eGPU memory: 64.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 71,744\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 268\u003cbr\u003etok\u002fs: 68,654\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 65,859\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,396\u003cbr\u003eGPU memory: 35.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 232\u003cbr\u003etok\u002fs: 59,315\u003cbr\u003eGPU memory: 52.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 223\u003cbr\u003etok\u002fs: 57,167\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 214\u003cbr\u003etok\u002fs: 54,851\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 205\u003cbr\u003etok\u002fs: 52,439\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 195\u003cbr\u003etok\u002fs: 50,022\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 44,954\u003cbr\u003eGPU memory: 58.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,598\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,244\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,609\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,380\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 21,652\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 74\u003cbr\u003etok\u002fs: 19,062\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 17,789\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 36.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,819\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,434\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 59\u003cbr\u003etok\u002fs: 15,086\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 58\u003cbr\u003etok\u002fs: 14,825\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,456\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 10,353\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 9,457\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 7,465\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 5,384\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 3,487\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 2,737\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 594\u003cbr\u003etok\u002fs: 151,995\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 591\u003cbr\u003etok\u002fs: 151,268\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 148,052\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 545\u003cbr\u003etok\u002fs: 139,645\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 530\u003cbr\u003etok\u002fs: 135,601\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 414\u003cbr\u003etok\u002fs: 106,099\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 284\u003cbr\u003etok\u002fs: 72,712\u003cbr\u003eGPU memory: 64.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 71,744\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 268\u003cbr\u003etok\u002fs: 68,654\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 65,859\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,396\u003cbr\u003eGPU memory: 35.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 232\u003cbr\u003etok\u002fs: 59,315\u003cbr\u003eGPU memory: 52.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 223\u003cbr\u003etok\u002fs: 57,167\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 214\u003cbr\u003etok\u002fs: 54,851\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 205\u003cbr\u003etok\u002fs: 52,439\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 195\u003cbr\u003etok\u002fs: 50,022\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 44,954\u003cbr\u003eGPU memory: 58.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,598\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,244\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,609\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,380\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 21,652\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 74\u003cbr\u003etok\u002fs: 19,062\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 17,789\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 36.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,819\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,434\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 59\u003cbr\u003etok\u002fs: 15,086\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 58\u003cbr\u003etok\u002fs: 14,825\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,456\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 10,353\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 9,457\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 7,465\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 5,384\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 3,487\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 2,737\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.47058823529411764,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471],"y":[0.15549999999999992,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.5186969523061589,0.4655812970066753,0.37273084242003207,0.24301507234119674,0.24029661400912197,0.22744434711692393,0.2080526776814571,0.20658773069139458,0.18086809436070922,0.15156915455945874,0.14572446914549794,0.13992509137040504,0.12671036336726374,0.1176186305011025,0.11357114809556892,0.10624641314525628,0.09633914277947263,0.086582897876582,0.08570695019180234,0.07699278098287371,0.07409309209532727,0.07308122149394387,0.06847494487570605,0.06560546108073821,0.06450297520161899,0.0624641314525629,0.05734436826048872,0.055637780529797336,0.05291932219772253,0.04409943516476879,0.04296674419307095,0.04094300299030417,0.03449421572477119,0.03376929350288459,0.03228924396653276,0.03126227081886006,0.030703476606155803,0.02792460808892379,0.02562902105294953,0.021747666656598302,0.021445615730812218,0.01780590207508986,0.016340955085027337,0.01615972452955568,0.011145679161506628],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,13.975979036249818,12.185907701266562,9.685107002474886,9.632697627019946,9.384917746396855,9.011064201484931,8.982821371378657,8.486970446935509,7.922113844810016,7.80943368758189,7.6976270199446795,7.442859222594264,7.267578978017179,7.189547241228709,7.048333090697335,6.857330033483768,6.669238608239919,6.652351142815548,6.4843499781627605,6.428446644344155,6.408938710147037,6.320133935070608,6.264812927645945,6.243558014266997,6.20425098267579,6.105546658902314,6.07264521764449,6.020235842189547,5.850196535157956,5.828359295385063,5.789343426990828,5.665016741883826,5.651040908429175,5.622506915125928,5.602707817731838,5.5919347794438785,5.538360751201048,5.494103945261319,5.41927500363954,5.413451739700102,5.343281409229873,5.315038579123598,5.3115446207599355,5.214878439365264],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 175,846\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 157,839\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 247\u003cbr\u003etok\u002fs: 126,362\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,386\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 81,464\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 77,107\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,533\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 137\u003cbr\u003etok\u002fs: 70,036\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,317\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,384\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 49,403\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 47,437\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 84\u003cbr\u003etok\u002fs: 42,957\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,875\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,502\u003cbr\u003eGPU memory: 45.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 36,019\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 32,660\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,353\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,056\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 51\u003cbr\u003etok\u002fs: 26,102\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 25,119\u003cbr\u003eGPU memory: 66.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,776\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 23,214\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 22,241\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,868\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 21,176\u003cbr\u003eGPU memory: 47.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,441\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,862\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 35\u003cbr\u003etok\u002fs: 17,940\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 14,950\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,566\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 27\u003cbr\u003etok\u002fs: 13,880\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,694\u003cbr\u003eGPU memory: 30.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,448\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,947\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,598\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,409\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18\u003cbr\u003etok\u002fs: 9,467\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,689\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,373\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,270\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,036\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,540\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,478\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7\u003cbr\u003etok\u002fs: 3,779\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 175,846\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 157,839\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 247\u003cbr\u003etok\u002fs: 126,362\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,386\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 81,464\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 77,107\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,533\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 137\u003cbr\u003etok\u002fs: 70,036\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,317\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,384\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 49,403\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 47,437\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 84\u003cbr\u003etok\u002fs: 42,957\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,875\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,502\u003cbr\u003eGPU memory: 45.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 36,019\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 32,660\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,353\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,056\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 51\u003cbr\u003etok\u002fs: 26,102\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 25,119\u003cbr\u003eGPU memory: 66.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,776\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 23,214\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 22,241\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,868\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 21,176\u003cbr\u003eGPU memory: 47.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,441\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,862\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 35\u003cbr\u003etok\u002fs: 17,940\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 14,950\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,566\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 27\u003cbr\u003etok\u002fs: 13,880\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,694\u003cbr\u003eGPU memory: 30.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,448\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,947\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,598\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,409\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18\u003cbr\u003etok\u002fs: 9,467\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,689\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,373\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,270\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,036\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,540\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,478\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7\u003cbr\u003etok\u002fs: 3,779\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":5.0,"showscale":false},"mode":"markers","showlegend":false,"x":[0.2],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":6.428571428571429,"showscale":false},"mode":"markers","showlegend":false,"x":[0.28571428571428575],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":7.857142857142858,"showscale":false},"mode":"markers","showlegend":false,"x":[0.37142857142857144],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":9.285714285714285,"showscale":false},"mode":"markers","showlegend":false,"x":[0.4571428571428572],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":10.714285714285715,"showscale":false},"mode":"markers","showlegend":false,"x":[0.5428571428571429],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":12.142857142857142,"showscale":false},"mode":"markers","showlegend":false,"x":[0.6285714285714287],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":13.571428571428571,"showscale":false},"mode":"markers","showlegend":false,"x":[0.7142857142857144],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":15.0,"showscale":false},"mode":"markers","showlegend":false,"x":[0.8],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"rgb(78,165,183)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.2],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(110,171,199)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.28571428571428575],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(142,178,216)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.37142857142857144],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(174,185,233)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.4571428571428572],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(206,192,250)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.5428571428571429],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(212,178,230)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.6285714285714287],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(219,164,210)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.7142857142857144],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(225,150,190)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.8],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(100,100,100)","opacity":1,"size":12,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"x":[0.5],"y":[0.6],"type":"scatter","xaxis":"x8","yaxis":"y8"}],                        {"template":{"data":{"histogram2dcontour":[{"type":"histogram2dcontour","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"choropleth":[{"type":"choropleth","colorbar":{"outlinewidth":0,"ticks":""}}],"histogram2d":[{"type":"histogram2d","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"heatmap":[{"type":"heatmap","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"contourcarpet":[{"type":"contourcarpet","colorbar":{"outlinewidth":0,"ticks":""}}],"contour":[{"type":"contour","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"surface":[{"type":"surface","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"mesh3d":[{"type":"mesh3d","colorbar":{"outlinewidth":0,"ticks":""}}],"scatter":[{"fillpattern":{"fillmode":"overlay","size":10,"solidity":0.2},"type":"scatter"}],"parcoords":[{"type":"parcoords","line":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatterpolargl":[{"type":"scatterpolargl","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"bar":[{"error_x":{"color":"#2a3f5f"},"error_y":{"color":"#2a3f5f"},"marker":{"line":{"color":"#E5ECF6","width":0.5},"pattern":{"fillmode":"overlay","size":10,"solidity":0.2}},"type":"bar"}],"scattergeo":[{"type":"scattergeo","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatterpolar":[{"type":"scatterpolar","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"histogram":[{"marker":{"pattern":{"fillmode":"overlay","size":10,"solidity":0.2}},"type":"histogram"}],"scattergl":[{"type":"scattergl","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatter3d":[{"type":"scatter3d","line":{"colorbar":{"outlinewidth":0,"ticks":""}},"marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scattermap":[{"type":"scattermap","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scattermapbox":[{"type":"scattermapbox","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatterternary":[{"type":"scatterternary","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scattercarpet":[{"type":"scattercarpet","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"carpet":[{"aaxis":{"endlinecolor":"#2a3f5f","gridcolor":"white","linecolor":"white","minorgridcolor":"white","startlinecolor":"#2a3f5f"},"baxis":{"endlinecolor":"#2a3f5f","gridcolor":"white","linecolor":"white","minorgridcolor":"white","startlinecolor":"#2a3f5f"},"type":"carpet"}],"table":[{"cells":{"fill":{"color":"#EBF0F8"},"line":{"color":"white"}},"header":{"fill":{"color":"#C8D4E3"},"line":{"color":"white"}},"type":"table"}],"barpolar":[{"marker":{"line":{"color":"#E5ECF6","width":0.5},"pattern":{"fillmode":"overlay","size":10,"solidity":0.2}},"type":"barpolar"}],"pie":[{"automargin":true,"type":"pie"}]},"layout":{"autotypenumbers":"strict","colorway":["#636efa","#EF553B","#00cc96","#ab63fa","#FFA15A","#19d3f3","#FF6692","#B6E880","#FF97FF","#FECB52"],"font":{"color":"#2a3f5f"},"hovermode":"closest","hoverlabel":{"align":"left"},"paper_bgcolor":"white","plot_bgcolor":"#E5ECF6","polar":{"bgcolor":"#E5ECF6","angularaxis":{"gridcolor":"white","linecolor":"white","ticks":""},"radialaxis":{"gridcolor":"white","linecolor":"white","ticks":""}},"ternary":{"bgcolor":"#E5ECF6","aaxis":{"gridcolor":"white","linecolor":"white","ticks":""},"baxis":{"gridcolor":"white","linecolor":"white","ticks":""},"caxis":{"gridcolor":"white","linecolor":"white","ticks":""}},"coloraxis":{"colorbar":{"outlinewidth":0,"ticks":""}},"colorscale":{"sequential":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]],"sequentialminus":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]],"diverging":[[0,"#8e0152"],[0.1,"#c51b7d"],[0.2,"#de77ae"],[0.3,"#f1b6da"],[0.4,"#fde0ef"],[0.5,"#f7f7f7"],[0.6,"#e6f5d0"],[0.7,"#b8e186"],[0.8,"#7fbc41"],[0.9,"#4d9221"],[1,"#276419"]]},"xaxis":{"gridcolor":"white","linecolor":"white","ticks":"","title":{"standoff":15},"zerolinecolor":"white","automargin":true,"zerolinewidth":2},"yaxis":{"gridcolor":"white","linecolor":"white","ticks":"","title":{"standoff":15},"zerolinecolor":"white","automargin":true,"zerolinewidth":2},"scene":{"xaxis":{"backgroundcolor":"#E5ECF6","gridcolor":"white","linecolor":"white","showbackground":true,"ticks":"","zerolinecolor":"white","gridwidth":2},"yaxis":{"backgroundcolor":"#E5ECF6","gridcolor":"white","linecolor":"white","showbackground":true,"ticks":"","zerolinecolor":"white","gridwidth":2},"zaxis":{"backgroundcolor":"#E5ECF6","gridcolor":"white","linecolor":"white","showbackground":true,"ticks":"","zerolinecolor":"white","gridwidth":2}},"shapedefaults":{"line":{"color":"#2a3f5f"}},"annotationdefaults":{"arrowcolor":"#2a3f5f","arrowhead":0,"arrowwidth":1},"geo":{"bgcolor":"white","landcolor":"#E5ECF6","subunitcolor":"white","showland":true,"showlakes":true,"lakecolor":"white"},"title":{"x":0.05},"mapbox":{"style":"light"}}},"xaxis":{"anchor":"y","domain":[0.0,0.25],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis":{"anchor":"x","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.7409999999999999]},"xaxis2":{"anchor":"y2","domain":[0.25,0.5],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis2":{"anchor":"x2","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.7409999999999999]},"xaxis3":{"anchor":"y3","domain":[0.5,0.75],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis3":{"anchor":"x3","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.7409999999999999]},"xaxis4":{"anchor":"y4","domain":[0.75,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis4":{"anchor":"x4","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.7409999999999999]},"xaxis5":{"anchor":"y5","domain":[0.0,0.25],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis5":{"anchor":"x5","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"xaxis6":{"anchor":"y6","domain":[0.25,0.5],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis6":{"anchor":"x6","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"xaxis7":{"anchor":"y7","domain":[0.5,0.75],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis7":{"anchor":"x7","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"xaxis8":{"anchor":"y8","domain":[0.75,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis8":{"anchor":"x8","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"annotations":[{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"1B","x":0.125,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"3B","x":0.375,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"8B","x":0.625,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"80B","x":0.875,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"1\u003cbr\u003enode","x":-0.1,"xanchor":"right","xref":"x","y":0.7884999999999999,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"2\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.6839999999999998,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"4\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.5599999999999998,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"8\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.4229999999999999,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"16\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.25999999999999984,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"32\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.1099999999999998,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"64\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":-0.0010000000000001813,"yref":"y"},{"font":{"size":12},"showarrow":false,"text":"moar throughput [tok\u002fs]","x":0.5,"xref":"x6","y":0.0,"yref":"y6"},{"font":{"size":12},"showarrow":false,"text":"gpus go brrr [mfu]","x":0.5,"xref":"x7","y":0.0,"yref":"y7"},{"font":{"size":12},"showarrow":false,"text":"crashed\u002foom","x":0.5,"xref":"x8","y":0.0,"yref":"y8"}],"shapes":[{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y4"},{"line":{"color":"black","width":3},"type":"line","x0":0.2,"x1":0.8,"xref":"x6","y0":0.3,"y1":0.3,"yref":"y6"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x6","y0":0.25,"y1":0.3,"yref":"y6"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x6","y0":0.35,"y1":0.3,"yref":"y6"},{"line":{"color":"black","width":3},"type":"line","x0":0.2,"x1":0.8,"xref":"x7","y0":0.3,"y1":0.3,"yref":"y7"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x7","y0":0.25,"y1":0.3,"yref":"y7"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x7","y0":0.35,"y1":0.3,"yref":"y7"}],"margin":{"l":60,"r":0,"t":50,"b":50},"height":840,"width":720,"showlegend":false,"plot_bgcolor":"white","dragmode":false},                        {"displayModeBar": false, "responsive": true, "scrollZoom": false}                    )                };            </script>        </div>
\ No newline at end of file
+<div>                            <div id="434d8f6c-0143-4d25-bde9-e305e3f32772" class="plotly-graph-div" style="height:840px; width:720px;"></div>            <script type="text/javascript">                window.PLOTLYENV=window.PLOTLYENV || {};                                if (document.getElementById("434d8f6c-0143-4d25-bde9-e305e3f32772")) {                    Plotly.newPlot(                        "434d8f6c-0143-4d25-bde9-e305e3f32772",                        [{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8839016752617386,0.8646048510219722,0.8587096693454469,1.0,0.9846921840640233,0.9768671722564443,0.9719178876401836,0.8283844215458352,0.9537973354080047,0.9532995787837407,0.9489701759965609,0.9401221406311583,0.9082189234418944,0.9014801831929492,0.8862155610136236,0.7396390196797837,0.8436655970212761,0.8392053274356713,0.6444621502844916,0.6186402946865007,0.6137161954797324,0.7054136946319671,0.6110152821053664,0.6052154918521919,0.6000798056075265,0.556624315359674,0.5386842513249298,0.3163073840166538,0.3092465071060856,0.3088600422013286,0.15205795351249796,0.012467312224784421],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.527739612807054,5.516218310339012,5.512698551317766,5.5112379656786565,5.503412029000565,5.499411585882646,5.496881323683864,5.494592652234244,5.487617409423711,5.48736293733972,5.485149582266198,5.480626130665737,5.464315994811293,5.460870894955185,5.453067040565374,5.441606595832294,5.4313138835342265,5.429033624384903,5.384780587229034,5.369363469628021,5.366423502116325,5.360634262205512,5.312374209822118,5.3094091368517216,5.3067835790636355,5.284567482631754,5.2753958407904875,5.188853512829389,5.184637767400738,5.157900979654431,5.090787253556405,5.00637376333928],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40,150\u003cbr\u003etok\u002fs: 321,200\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,273\u003cbr\u003etok\u002fs: 314,187\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,006\u003cbr\u003etok\u002fs: 312,045\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,895\u003cbr\u003etok\u002fs: 311,156\u003cbr\u003eGPU memory: 41.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,299\u003cbr\u003etok\u002fs: 306,393\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,995\u003cbr\u003etok\u002fs: 303,958\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,802\u003cbr\u003etok\u002fs: 302,418\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,628\u003cbr\u003etok\u002fs: 301,025\u003cbr\u003eGPU memory: 68.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,097\u003cbr\u003etok\u002fs: 296,780\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,078\u003cbr\u003etok\u002fs: 296,625\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,910\u003cbr\u003etok\u002fs: 295,278\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,566\u003cbr\u003etok\u002fs: 292,525\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,325\u003cbr\u003etok\u002fs: 282,598\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,063\u003cbr\u003etok\u002fs: 280,501\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,469\u003cbr\u003etok\u002fs: 275,751\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,597\u003cbr\u003etok\u002fs: 268,776\u003cbr\u003eGPU memory: 66.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,814\u003cbr\u003etok\u002fs: 262,512\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,640\u003cbr\u003etok\u002fs: 261,124\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,274\u003cbr\u003etok\u002fs: 234,190\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,101\u003cbr\u003etok\u002fs: 224,807\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,877\u003cbr\u003etok\u002fs: 223,017\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,437\u003cbr\u003etok\u002fs: 219,494\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,765\u003cbr\u003etok\u002fs: 190,121\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,540\u003cbr\u003etok\u002fs: 188,316\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,340\u003cbr\u003etok\u002fs: 186,718\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,650\u003cbr\u003etok\u002fs: 173,197\u003cbr\u003eGPU memory: 29.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,952\u003cbr\u003etok\u002fs: 167,615\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,368\u003cbr\u003etok\u002fs: 114,942\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,047\u003cbr\u003etok\u002fs: 112,377\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,013\u003cbr\u003etok\u002fs: 96,104\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,907\u003cbr\u003etok\u002fs: 55,256\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 485\u003cbr\u003etok\u002fs: 3,879\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40,150\u003cbr\u003etok\u002fs: 321,200\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,273\u003cbr\u003etok\u002fs: 314,187\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 39,006\u003cbr\u003etok\u002fs: 312,045\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,895\u003cbr\u003etok\u002fs: 311,156\u003cbr\u003eGPU memory: 41.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,299\u003cbr\u003etok\u002fs: 306,393\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,995\u003cbr\u003etok\u002fs: 303,958\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,802\u003cbr\u003etok\u002fs: 302,418\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,628\u003cbr\u003etok\u002fs: 301,025\u003cbr\u003eGPU memory: 68.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,097\u003cbr\u003etok\u002fs: 296,780\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,078\u003cbr\u003etok\u002fs: 296,625\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,910\u003cbr\u003etok\u002fs: 295,278\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,566\u003cbr\u003etok\u002fs: 292,525\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,325\u003cbr\u003etok\u002fs: 282,598\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,063\u003cbr\u003etok\u002fs: 280,501\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,469\u003cbr\u003etok\u002fs: 275,751\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,597\u003cbr\u003etok\u002fs: 268,776\u003cbr\u003eGPU memory: 66.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,814\u003cbr\u003etok\u002fs: 262,512\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,640\u003cbr\u003etok\u002fs: 261,124\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,274\u003cbr\u003etok\u002fs: 234,190\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,101\u003cbr\u003etok\u002fs: 224,807\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,877\u003cbr\u003etok\u002fs: 223,017\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,437\u003cbr\u003etok\u002fs: 219,494\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,765\u003cbr\u003etok\u002fs: 190,121\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,540\u003cbr\u003etok\u002fs: 188,316\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,340\u003cbr\u003etok\u002fs: 186,718\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,650\u003cbr\u003etok\u002fs: 173,197\u003cbr\u003eGPU memory: 29.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,952\u003cbr\u003etok\u002fs: 167,615\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,368\u003cbr\u003etok\u002fs: 114,942\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,047\u003cbr\u003etok\u002fs: 112,377\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,013\u003cbr\u003etok\u002fs: 96,104\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,907\u003cbr\u003etok\u002fs: 55,256\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 485\u003cbr\u003etok\u002fs: 3,879\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705],"y":[0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7624999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8550593591139709,0.8299228310445118,0.8279780243027676,0.8180620196319911,0.9383609666248526,0.9357256332577526,0.9059931594458959,0.900690868711291,0.8951520407378829,0.7663099945445743,0.7597706534242701,0.7454641935972108,0.7448746313995209,0.8567805584901311,0.842590123901805,0.7180645216172774,0.7145760217723965,0.8333217207261383,0.8210279548450409,0.7940933051991141,0.7483500884829245,0.7437720644893069,0.6253352819881965,0.7290651045610292,0.6206302322163428,0.6131354392894766,0.6091084520900218,0.704495570197439,0.5870927730550843,0.5819434602081979,0.5711384890869842,0.5485184977919054,0.5397844794689245,0.5353105873922067,0.5950976114623888,0.5905936339087443,0.590037000080474,0.5806315595697181,0.5755658060739163,0.5571043316910277,0.5386307733405047,0.5128703254006798,0.3714169195883745,0.39990348252234054,0.31394517252254983,0.3027886215545436,0.29731899018725444,0.29108785932713155,0.28716192106297905,0.30942207524918036,0.2864003171655845,0.25228624811059447,0.2096576097757755,0.15313206626922982,0.15203593849391356,0.0983102756661544,0.09588576896842252,0.04415640337543418,0.030968637990297337],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.021038216659635,5.991022340545899,5.988700019895091,5.976859181457944,5.959451503299094,5.956756938360131,5.926356199507796,5.920934734850604,5.915271416559865,5.915061371936819,5.907252654185898,5.890169112472876,5.889465108091749,5.876037499511035,5.861528121688972,5.857450784888648,5.853285118935204,5.852051402519736,5.839481322800572,5.811941291818071,5.765169953702905,5.760489034356255,5.746721516266655,5.745451521806155,5.74110315120563,5.732153515226894,5.72734483406948,5.7203297642747275,5.701055606987425,5.6949067412389045,5.682004375658,5.654993530941072,5.644564118763173,5.639221782305651,5.608472984528518,5.6038677758845425,5.603298631192557,5.593681794646496,5.5885021836228495,5.569625770408977,5.550737001629042,5.524397563629588,5.443514084924695,5.408891685745063,5.374886276215356,5.361564084272742,5.355032721745081,5.347592042132165,5.3429040249071384,5.316376624572918,5.2928374310349104,5.257956616505522,5.214369859821634,5.1828571200237565,5.181548218674381,5.100519890673746,5.0980408909299,5.052727772494386,5.031664686971997],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,840\u003cbr\u003etok\u002fs: 621,437\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,698\u003cbr\u003etok\u002fs: 603,168\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,610\u003cbr\u003etok\u002fs: 601,755\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,159\u003cbr\u003etok\u002fs: 594,548\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,497\u003cbr\u003etok\u002fs: 583,953\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,395\u003cbr\u003etok\u002fs: 582,313\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,238\u003cbr\u003etok\u002fs: 563,811\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,032\u003cbr\u003etok\u002fs: 560,511\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,816\u003cbr\u003etok\u002fs: 557,064\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,809\u003cbr\u003etok\u002fs: 556,936\u003cbr\u003eGPU memory: 67.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,511\u003cbr\u003etok\u002fs: 552,184\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,862\u003cbr\u003etok\u002fs: 541,786\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,835\u003cbr\u003etok\u002fs: 541,357\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,324\u003cbr\u003etok\u002fs: 533,185\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,772\u003cbr\u003etok\u002fs: 524,354\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,617\u003cbr\u003etok\u002fs: 521,872\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,459\u003cbr\u003etok\u002fs: 519,337\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,412\u003cbr\u003etok\u002fs: 518,586\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,933\u003cbr\u003etok\u002fs: 510,936\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,886\u003cbr\u003etok\u002fs: 494,174\u003cbr\u003eGPU memory: 45.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,107\u003cbr\u003etok\u002fs: 465,707\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,929\u003cbr\u003etok\u002fs: 462,858\u003cbr\u003eGPU memory: 49.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,405\u003cbr\u003etok\u002fs: 454,479\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,357\u003cbr\u003etok\u002fs: 453,706\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,191\u003cbr\u003etok\u002fs: 451,060\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,851\u003cbr\u003etok\u002fs: 445,612\u003cbr\u003eGPU memory: 40.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,668\u003cbr\u003etok\u002fs: 442,686\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,401\u003cbr\u003etok\u002fs: 438,416\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,668\u003cbr\u003etok\u002fs: 426,685\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,434\u003cbr\u003etok\u002fs: 422,943\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,943\u003cbr\u003etok\u002fs: 415,090\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,916\u003cbr\u003etok\u002fs: 398,650\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,519\u003cbr\u003etok\u002fs: 392,303\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,316\u003cbr\u003etok\u002fs: 389,051\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,146\u003cbr\u003etok\u002fs: 370,336\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,971\u003cbr\u003etok\u002fs: 367,534\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,949\u003cbr\u003etok\u002fs: 367,187\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,583\u003cbr\u003etok\u002fs: 361,334\u003cbr\u003eGPU memory: 59.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,386\u003cbr\u003etok\u002fs: 358,182\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,668\u003cbr\u003etok\u002fs: 346,693\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,950\u003cbr\u003etok\u002fs: 335,196\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,948\u003cbr\u003etok\u002fs: 319,165\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,871\u003cbr\u003etok\u002fs: 269,937\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,554\u003cbr\u003etok\u002fs: 248,865\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,260\u003cbr\u003etok\u002fs: 228,168\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,754\u003cbr\u003etok\u002fs: 220,060\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,505\u003cbr\u003etok\u002fs: 216,084\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,222\u003cbr\u003etok\u002fs: 211,556\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,044\u003cbr\u003etok\u002fs: 208,703\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,035\u003cbr\u003etok\u002fs: 192,557\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,139\u003cbr\u003etok\u002fs: 178,230\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,813\u003cbr\u003etok\u002fs: 157,001\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,155\u003cbr\u003etok\u002fs: 130,472\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,956\u003cbr\u003etok\u002fs: 111,293\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,906\u003cbr\u003etok\u002fs: 110,496\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,824\u003cbr\u003etok\u002fs: 61,180\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,729\u003cbr\u003etok\u002fs: 59,671\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,006\u003cbr\u003etok\u002fs: 32,092\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,205\u003cbr\u003etok\u002fs: 19,272\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 38,840\u003cbr\u003etok\u002fs: 621,437\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,698\u003cbr\u003etok\u002fs: 603,168\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,610\u003cbr\u003etok\u002fs: 601,755\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 37,159\u003cbr\u003etok\u002fs: 594,548\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,497\u003cbr\u003etok\u002fs: 583,953\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,395\u003cbr\u003etok\u002fs: 582,313\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,238\u003cbr\u003etok\u002fs: 563,811\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,032\u003cbr\u003etok\u002fs: 560,511\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,816\u003cbr\u003etok\u002fs: 557,064\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,809\u003cbr\u003etok\u002fs: 556,936\u003cbr\u003eGPU memory: 67.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 34,511\u003cbr\u003etok\u002fs: 552,184\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,862\u003cbr\u003etok\u002fs: 541,786\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,835\u003cbr\u003etok\u002fs: 541,357\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,324\u003cbr\u003etok\u002fs: 533,185\u003cbr\u003eGPU memory: 39.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,772\u003cbr\u003etok\u002fs: 524,354\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,617\u003cbr\u003etok\u002fs: 521,872\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,459\u003cbr\u003etok\u002fs: 519,337\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,412\u003cbr\u003etok\u002fs: 518,586\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,933\u003cbr\u003etok\u002fs: 510,936\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,886\u003cbr\u003etok\u002fs: 494,174\u003cbr\u003eGPU memory: 45.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,107\u003cbr\u003etok\u002fs: 465,707\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,929\u003cbr\u003etok\u002fs: 462,858\u003cbr\u003eGPU memory: 49.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,405\u003cbr\u003etok\u002fs: 454,479\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,357\u003cbr\u003etok\u002fs: 453,706\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,191\u003cbr\u003etok\u002fs: 451,060\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,851\u003cbr\u003etok\u002fs: 445,612\u003cbr\u003eGPU memory: 40.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,668\u003cbr\u003etok\u002fs: 442,686\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,401\u003cbr\u003etok\u002fs: 438,416\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,668\u003cbr\u003etok\u002fs: 426,685\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,434\u003cbr\u003etok\u002fs: 422,943\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,943\u003cbr\u003etok\u002fs: 415,090\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,916\u003cbr\u003etok\u002fs: 398,650\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,519\u003cbr\u003etok\u002fs: 392,303\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,316\u003cbr\u003etok\u002fs: 389,051\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,146\u003cbr\u003etok\u002fs: 370,336\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,971\u003cbr\u003etok\u002fs: 367,534\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,949\u003cbr\u003etok\u002fs: 367,187\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,583\u003cbr\u003etok\u002fs: 361,334\u003cbr\u003eGPU memory: 59.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,386\u003cbr\u003etok\u002fs: 358,182\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,668\u003cbr\u003etok\u002fs: 346,693\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,950\u003cbr\u003etok\u002fs: 335,196\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,948\u003cbr\u003etok\u002fs: 319,165\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,871\u003cbr\u003etok\u002fs: 269,937\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,554\u003cbr\u003etok\u002fs: 248,865\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,260\u003cbr\u003etok\u002fs: 228,168\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,754\u003cbr\u003etok\u002fs: 220,060\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,505\u003cbr\u003etok\u002fs: 216,084\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,222\u003cbr\u003etok\u002fs: 211,556\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,044\u003cbr\u003etok\u002fs: 208,703\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,035\u003cbr\u003etok\u002fs: 192,557\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,139\u003cbr\u003etok\u002fs: 178,230\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,813\u003cbr\u003etok\u002fs: 157,001\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,155\u003cbr\u003etok\u002fs: 130,472\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,956\u003cbr\u003etok\u002fs: 111,293\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,906\u003cbr\u003etok\u002fs: 110,496\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,824\u003cbr\u003etok\u002fs: 61,180\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,729\u003cbr\u003etok\u002fs: 59,671\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,006\u003cbr\u003etok\u002fs: 32,092\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,205\u003cbr\u003etok\u002fs: 19,272\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8143348769856557,0.7914592913248123,0.778618591435101,0.8658566466064231,0.844440770689745,0.7068245337288362,0.8254499156821874,0.7892525191858695,0.7882125266522189,0.7588412863409256,0.7214077256661672,0.7187384543474129,0.700227615671209,0.5936160432118219,0.6880210086204968,0.5889810011990666,0.6551811553867113,0.6544540604830861,0.6473761978232916,0.5896837368564354,0.5806518709195718,0.5801708261654407,0.4904761214443737,0.558676275906291,0.5420204548148311,0.5350449202213884,0.5269764293212589,0.5231476113209808,0.4971781364516482,0.4914369662967858,0.4833844159497059,0.47423428139344076,0.4701689261543595,0.4640858054260099,0.4601096658628686,0.45865059104742545,0.3940792672282026,0.3033762024005607,0.29544661285665286,0.336463423758263,0.2969305950891269,0.2617559650449382,0.21752159262482426,0.24140784907690055,0.2402745271762004,0.2373147264228293,0.18063278718446554,0.20629209623671818,0.19828813886587077,0.1903921658866508,0.158309998640276,0.15765373093627563,0.1527221466231887,0.1055459431485351,0.12163284741214117,0.10885366598010873,0.10066947751752109,0.08748406908841376,0.08095461287467047,0.06021003992594326,0.05736002330406013,0.04380526382901332,0.04359634130264754,0.04136798112153662,0.029840715309178593,0.02653022238871244,0.009721612056676328,0.00713725407518953],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.944817097663862,6.890184990689686,6.859518475724835,6.770635162321644,6.726840726974167,6.688057919528777,6.688005342651919,6.613983409261354,6.611856674592456,6.5517939020076374,6.475244072377749,6.469785541022372,6.431931766991059,6.417690268356585,6.40696984316528,6.406620732702944,6.339813924123575,6.338327050046036,6.323853161615851,6.205874856097088,6.18740512502571,6.186421411659701,6.171368651815311,6.142466091069039,6.108405738703016,6.094141106242726,6.07764143074721,6.069811682245546,6.016705356237784,6.004964939635436,5.988497861803572,5.969786277098648,5.961472821329893,5.949033132265336,5.9409021182592765,5.937918380497596,5.805873131575527,5.724531445388819,5.705593780113406,5.6880515051498,5.607208773524472,5.535278348295311,5.5194910894812175,5.493667430643739,5.4913498419118465,5.485297191847977,5.431392223080744,5.421857406462582,5.405489698927979,5.389342814276178,5.378080321484468,5.376513004785337,5.364735258600421,5.252067743413064,5.248733317882742,5.222600507009339,5.2058642355679625,5.178900710040207,5.165548286393399,5.1231266333006795,5.117298486500992,5.10461694380289,5.104117989241509,5.098796157765962,5.061022826356242,5.054253027692031,5.023217423051638,5.014595341015727],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,990\u003cbr\u003etok\u002fs: 1,183,679\u003cbr\u003eGPU memory: 34.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,951\u003cbr\u003etok\u002fs: 1,150,428\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,368\u003cbr\u003etok\u002fs: 1,131,764\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,677\u003cbr\u003etok\u002fs: 1,077,666\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,844\u003cbr\u003etok\u002fs: 1,051,012\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,106\u003cbr\u003etok\u002fs: 1,027,407\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,105\u003cbr\u003etok\u002fs: 1,027,375\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,698\u003cbr\u003etok\u002fs: 982,323\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,657\u003cbr\u003etok\u002fs: 981,028\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,515\u003cbr\u003etok\u002fs: 944,472\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,059\u003cbr\u003etok\u002fs: 897,882\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,955\u003cbr\u003etok\u002fs: 894,559\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,235\u003cbr\u003etok\u002fs: 871,520\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,964\u003cbr\u003etok\u002fs: 862,852\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,760\u003cbr\u003etok\u002fs: 856,328\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,754\u003cbr\u003etok\u002fs: 856,115\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,483\u003cbr\u003etok\u002fs: 815,454\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,455\u003cbr\u003etok\u002fs: 814,549\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,179\u003cbr\u003etok\u002fs: 805,740\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,935\u003cbr\u003etok\u002fs: 733,935\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,584\u003cbr\u003etok\u002fs: 722,693\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,565\u003cbr\u003etok\u002fs: 722,095\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,279\u003cbr\u003etok\u002fs: 712,933\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,729\u003cbr\u003etok\u002fs: 695,342\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,082\u003cbr\u003etok\u002fs: 674,612\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,810\u003cbr\u003etok\u002fs: 665,930\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,496\u003cbr\u003etok\u002fs: 655,888\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,348\u003cbr\u003etok\u002fs: 651,122\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,338\u003cbr\u003etok\u002fs: 618,800\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,114\u003cbr\u003etok\u002fs: 611,654\u003cbr\u003eGPU memory: 44.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,801\u003cbr\u003etok\u002fs: 601,632\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,445\u003cbr\u003etok\u002fs: 590,244\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,287\u003cbr\u003etok\u002fs: 585,184\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,050\u003cbr\u003etok\u002fs: 577,612\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,896\u003cbr\u003etok\u002fs: 572,664\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,839\u003cbr\u003etok\u002fs: 570,848\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,328\u003cbr\u003etok\u002fs: 490,481\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,780\u003cbr\u003etok\u002fs: 440,973\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,420\u003cbr\u003etok\u002fs: 429,447\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,087\u003cbr\u003etok\u002fs: 418,771\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,549\u003cbr\u003etok\u002fs: 369,567\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,181\u003cbr\u003etok\u002fs: 325,788\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,881\u003cbr\u003etok\u002fs: 316,179\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,389\u003cbr\u003etok\u002fs: 300,462\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,345\u003cbr\u003etok\u002fs: 299,052\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,230\u003cbr\u003etok\u002fs: 295,368\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,205\u003cbr\u003etok\u002fs: 262,559\u003cbr\u003eGPU memory: 51.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,024\u003cbr\u003etok\u002fs: 256,756\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,712\u003cbr\u003etok\u002fs: 246,794\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,405\u003cbr\u003etok\u002fs: 236,967\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,191\u003cbr\u003etok\u002fs: 230,112\u003cbr\u003eGPU memory: 37.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,161\u003cbr\u003etok\u002fs: 229,158\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,937\u003cbr\u003etok\u002fs: 221,990\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,860\u003cbr\u003etok\u002fs: 219,510\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,794\u003cbr\u003etok\u002fs: 153,417\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 151,387\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,234\u003cbr\u003etok\u002fs: 135,482\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,915\u003cbr\u003etok\u002fs: 125,296\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,403\u003cbr\u003etok\u002fs: 108,885\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,149\u003cbr\u003etok\u002fs: 100,758\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,342\u003cbr\u003etok\u002fs: 74,939\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,231\u003cbr\u003etok\u002fs: 71,392\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,990\u003cbr\u003etok\u002fs: 63,673\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,980\u003cbr\u003etok\u002fs: 63,370\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,879\u003cbr\u003etok\u002fs: 60,131\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 37,140\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 33,020\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 442\u003cbr\u003etok\u002fs: 14,131\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 8,883\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 36,990\u003cbr\u003etok\u002fs: 1,183,679\u003cbr\u003eGPU memory: 34.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,951\u003cbr\u003etok\u002fs: 1,150,428\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 35,368\u003cbr\u003etok\u002fs: 1,131,764\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 33,677\u003cbr\u003etok\u002fs: 1,077,666\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,844\u003cbr\u003etok\u002fs: 1,051,012\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,106\u003cbr\u003etok\u002fs: 1,027,407\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 32,105\u003cbr\u003etok\u002fs: 1,027,375\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,698\u003cbr\u003etok\u002fs: 982,323\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,657\u003cbr\u003etok\u002fs: 981,028\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 29,515\u003cbr\u003etok\u002fs: 944,472\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,059\u003cbr\u003etok\u002fs: 897,882\u003cbr\u003eGPU memory: 24.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,955\u003cbr\u003etok\u002fs: 894,559\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 27,235\u003cbr\u003etok\u002fs: 871,520\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,964\u003cbr\u003etok\u002fs: 862,852\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,760\u003cbr\u003etok\u002fs: 856,328\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,754\u003cbr\u003etok\u002fs: 856,115\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,483\u003cbr\u003etok\u002fs: 815,454\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,455\u003cbr\u003etok\u002fs: 814,549\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,179\u003cbr\u003etok\u002fs: 805,740\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,935\u003cbr\u003etok\u002fs: 733,935\u003cbr\u003eGPU memory: 48.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,584\u003cbr\u003etok\u002fs: 722,693\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,565\u003cbr\u003etok\u002fs: 722,095\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,279\u003cbr\u003etok\u002fs: 712,933\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,729\u003cbr\u003etok\u002fs: 695,342\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,082\u003cbr\u003etok\u002fs: 674,612\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,810\u003cbr\u003etok\u002fs: 665,930\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,496\u003cbr\u003etok\u002fs: 655,888\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,348\u003cbr\u003etok\u002fs: 651,122\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,338\u003cbr\u003etok\u002fs: 618,800\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,114\u003cbr\u003etok\u002fs: 611,654\u003cbr\u003eGPU memory: 44.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,801\u003cbr\u003etok\u002fs: 601,632\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,445\u003cbr\u003etok\u002fs: 590,244\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,287\u003cbr\u003etok\u002fs: 585,184\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,050\u003cbr\u003etok\u002fs: 577,612\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,896\u003cbr\u003etok\u002fs: 572,664\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,839\u003cbr\u003etok\u002fs: 570,848\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,328\u003cbr\u003etok\u002fs: 490,481\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,780\u003cbr\u003etok\u002fs: 440,973\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,420\u003cbr\u003etok\u002fs: 429,447\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,087\u003cbr\u003etok\u002fs: 418,771\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,549\u003cbr\u003etok\u002fs: 369,567\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,181\u003cbr\u003etok\u002fs: 325,788\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,881\u003cbr\u003etok\u002fs: 316,179\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,389\u003cbr\u003etok\u002fs: 300,462\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,345\u003cbr\u003etok\u002fs: 299,052\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,230\u003cbr\u003etok\u002fs: 295,368\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,205\u003cbr\u003etok\u002fs: 262,559\u003cbr\u003eGPU memory: 51.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,024\u003cbr\u003etok\u002fs: 256,756\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,712\u003cbr\u003etok\u002fs: 246,794\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,405\u003cbr\u003etok\u002fs: 236,967\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,191\u003cbr\u003etok\u002fs: 230,112\u003cbr\u003eGPU memory: 37.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,161\u003cbr\u003etok\u002fs: 229,158\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,937\u003cbr\u003etok\u002fs: 221,990\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,860\u003cbr\u003etok\u002fs: 219,510\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,794\u003cbr\u003etok\u002fs: 153,417\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 151,387\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,234\u003cbr\u003etok\u002fs: 135,482\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,915\u003cbr\u003etok\u002fs: 125,296\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,403\u003cbr\u003etok\u002fs: 108,885\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,149\u003cbr\u003etok\u002fs: 100,758\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,342\u003cbr\u003etok\u002fs: 74,939\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,231\u003cbr\u003etok\u002fs: 71,392\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,990\u003cbr\u003etok\u002fs: 63,673\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,980\u003cbr\u003etok\u002fs: 63,370\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,879\u003cbr\u003etok\u002fs: 60,131\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 37,140\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 33,020\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 442\u003cbr\u003etok\u002fs: 14,131\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 8,883\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.35294117647058826,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.6890031560345948,0.6849363216515024,0.6789850016775869,0.6666838898933789,0.6289693011059201,0.7326000507526639,0.691560068503241,0.5850438352754361,0.6429969165314077,0.6424263989956422,0.5470437116969379,0.6142936368140387,0.6113654600610728,0.5965374033507556,0.5946739012780979,0.5077204855015185,0.5629136348548933,0.5477636818152485,0.540562151316471,0.5227858636090286,0.5107435470970066,0.49850865841991576,0.490799601280489,0.48059379074321784,0.45152259277723245,0.4496701462494321,0.4491849878041913,0.4489633626956605,0.4449831094414095,0.44190221190599904,0.4401870598189821,0.3693637989551953,0.428270467991498,0.353487228002698,0.4109158336227914,0.41072506119758284,0.39250269511044095,0.3762662134064678,0.3717504089908832,0.3682884808164442,0.3584909541218027,0.296531733122677,0.34155668756336044,0.3320838853606845,0.281890865163321,0.3217328101061049,0.295488489249511,0.2827650997531528,0.26473710557094043,0.20851216641935252,0.2418156187081415,0.22349812351408976,0.21922476976827832,0.2026730764830306,0.19150311959194238,0.19147869455097902,0.1908063631602506,0.18988438214030717,0.1892650145226151,0.1878285650082749,0.15165133611924445,0.145822639798844,0.1567707113420377,0.11125267626597808,0.12455742468538618,0.12152537723190236,0.12116774321105984,0.10813916925550673,0.1039586306653561,0.10306390284901389,0.09764668586903394,0.08467158989790588,0.08208150713301182,0.06528453501535306,0.06206608593346464,0.06093687772387413,0.05342013564382222,0.05221662388856421,0.043609110013426496,0.03090127629837732,0.030392721234950636,0.027412866237420137,0.02565503460514093,0.024307029449657545,0.02288317811434055,0.017672931218313325,0.01395492577230051,0.0096888096789856,0.009688369378613913,0.007857664230761615,0.006998674105934228,0.00626026655175756,0.0029315191269924717,0.0011307508437566106],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[8.290992823887231,8.271567770963347,8.243141556721408,8.184385845295274,8.004243795192455,7.996263676822977,7.828414100529512,7.794435768091388,7.629795484361324,7.627462122566374,7.6129298738028774,7.512401833713219,7.500425872702548,7.439780548322146,7.4321590042528385,7.425104238916058,7.3022625722879475,7.2403007229110266,7.2108471564952845,7.138143851176313,7.088891936010997,7.03885241923035,7.007323117716263,6.965582335178851,6.8466839343150765,6.8391076063598675,6.837123355027254,6.8362169296702255,6.819938077057512,6.807337502749771,6.8003226958394025,6.764249700627263,6.751584982529755,6.688415968060179,6.68060619877172,6.67982595791915,6.605298234973214,6.53889258796427,6.52042338266166,6.506264429723854,6.466193488795447,6.416370588747455,6.396933968910662,6.358191119891683,6.346439136376427,6.315856218645779,6.208519473003036,6.156482034901793,6.0827492743339455,5.99594905679186,5.989002599821407,5.914085807986722,5.896608202581651,5.828913370552154,5.783229322250408,5.783129426184378,5.780379655524715,5.776608841916474,5.774075687989464,5.768200747769374,5.724355838620114,5.696515330786369,5.641177116355993,5.531393442864287,5.509427875250634,5.497027093074952,5.495564404360768,5.442278791202921,5.4251807908487635,5.42152144021946,5.399365544311581,5.3462986509614625,5.335705461812153,5.267007462972209,5.253844316082089,5.249225963218899,5.218483211782605,5.213560964571177,5.208296967660173,5.126383245053252,5.124303303804758,5.112115983749118,5.104926621607582,5.099413410300273,5.093589995419502,5.072280587229034,5.057074302904221,5.0462781670102395,5.0462760639351645,5.032137090210564,5.028623903298926,5.025603887492213,5.011989630998654,5.004624662088412],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,297\u003cbr\u003etok\u002fs: 2,003,005\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,112\u003cbr\u003etok\u002fs: 1,991,183\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,842\u003cbr\u003etok\u002fs: 1,973,882\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,283\u003cbr\u003etok\u002fs: 1,938,121\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,570\u003cbr\u003etok\u002fs: 1,828,481\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,494\u003cbr\u003etok\u002fs: 1,823,624\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,898\u003cbr\u003etok\u002fs: 1,721,465\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,575\u003cbr\u003etok\u002fs: 1,700,785\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,009\u003cbr\u003etok\u002fs: 1,600,579\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,987\u003cbr\u003etok\u002fs: 1,599,159\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,849\u003cbr\u003etok\u002fs: 1,590,314\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,893\u003cbr\u003etok\u002fs: 1,529,130\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,779\u003cbr\u003etok\u002fs: 1,521,841\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,202\u003cbr\u003etok\u002fs: 1,484,930\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,130\u003cbr\u003etok\u002fs: 1,480,291\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,062\u003cbr\u003etok\u002fs: 1,475,997\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,894\u003cbr\u003etok\u002fs: 1,401,232\u003cbr\u003eGPU memory: 40.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,305\u003cbr\u003etok\u002fs: 1,363,520\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,025\u003cbr\u003etok\u002fs: 1,345,594\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,334\u003cbr\u003etok\u002fs: 1,301,344\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,865\u003cbr\u003etok\u002fs: 1,271,368\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,389\u003cbr\u003etok\u002fs: 1,240,912\u003cbr\u003eGPU memory: 40.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,259\u003cbr\u003etok\u002fs: 1,232,559\u003cbr\u003eGPU memory: 44.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,089\u003cbr\u003etok\u002fs: 1,221,722\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,692\u003cbr\u003etok\u002fs: 1,196,317\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,562\u003cbr\u003etok\u002fs: 1,123,952\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,490\u003cbr\u003etok\u002fs: 1,119,341\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,471\u003cbr\u003etok\u002fs: 1,118,133\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,462\u003cbr\u003etok\u002fs: 1,117,581\u003cbr\u003eGPU memory: 26.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,307\u003cbr\u003etok\u002fs: 1,107,674\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,188\u003cbr\u003etok\u002fs: 1,100,004\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,121\u003cbr\u003etok\u002fs: 1,095,735\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,778\u003cbr\u003etok\u002fs: 1,073,780\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,657\u003cbr\u003etok\u002fs: 1,066,072\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,603\u003cbr\u003etok\u002fs: 1,062,580\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,057\u003cbr\u003etok\u002fs: 1,027,625\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,982\u003cbr\u003etok\u002fs: 1,022,872\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,975\u003cbr\u003etok\u002fs: 1,022,397\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,266\u003cbr\u003etok\u002fs: 977,037\u003cbr\u003eGPU memory: 43.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,635\u003cbr\u003etok\u002fs: 936,620\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,459\u003cbr\u003etok\u002fs: 925,379\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,324\u003cbr\u003etok\u002fs: 916,762\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,943\u003cbr\u003etok\u002fs: 892,373\u003cbr\u003eGPU memory: 53.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,470\u003cbr\u003etok\u002fs: 862,049\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,285\u003cbr\u003etok\u002fs: 850,220\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,916\u003cbr\u003etok\u002fs: 826,639\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,804\u003cbr\u003etok\u002fs: 819,487\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,514\u003cbr\u003etok\u002fs: 800,873\u003cbr\u003eGPU memory: 63.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,493\u003cbr\u003etok\u002fs: 735,544\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,998\u003cbr\u003etok\u002fs: 703,873\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,297\u003cbr\u003etok\u002fs: 658,996\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,471\u003cbr\u003etok\u002fs: 606,167\u003cbr\u003eGPU memory: 24.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 601,939\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,693\u003cbr\u003etok\u002fs: 556,342\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,527\u003cbr\u003etok\u002fs: 545,705\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,883\u003cbr\u003etok\u002fs: 504,504\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,448\u003cbr\u003etok\u002fs: 476,699\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,447\u003cbr\u003etok\u002fs: 476,638\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,421\u003cbr\u003etok\u002fs: 474,964\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,385\u003cbr\u003etok\u002fs: 472,669\u003cbr\u003eGPU memory: 16.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,361\u003cbr\u003etok\u002fs: 471,128\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,306\u003cbr\u003etok\u002fs: 467,552\u003cbr\u003eGPU memory: 28.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,889\u003cbr\u003etok\u002fs: 440,867\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,624\u003cbr\u003etok\u002fs: 423,922\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,098\u003cbr\u003etok\u002fs: 390,241\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,053\u003cbr\u003etok\u002fs: 323,423\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,845\u003cbr\u003etok\u002fs: 310,054\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,727\u003cbr\u003etok\u002fs: 302,507\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,713\u003cbr\u003etok\u002fs: 301,617\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,206\u003cbr\u003etok\u002fs: 269,185\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,043\u003cbr\u003etok\u002fs: 258,779\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,009\u003cbr\u003etok\u002fs: 256,552\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,798\u003cbr\u003etok\u002fs: 243,067\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,293\u003cbr\u003etok\u002fs: 210,769\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,193\u003cbr\u003etok\u002fs: 204,321\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,539\u003cbr\u003etok\u002fs: 162,509\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,414\u003cbr\u003etok\u002fs: 154,498\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,370\u003cbr\u003etok\u002fs: 151,687\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,078\u003cbr\u003etok\u002fs: 132,976\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,031\u003cbr\u003etok\u002fs: 129,980\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,981\u003cbr\u003etok\u002fs: 126,776\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,202\u003cbr\u003etok\u002fs: 76,921\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,182\u003cbr\u003etok\u002fs: 75,655\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,066\u003cbr\u003etok\u002fs: 68,237\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 998\u003cbr\u003etok\u002fs: 63,862\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 945\u003cbr\u003etok\u002fs: 60,506\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 890\u003cbr\u003etok\u002fs: 56,962\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 43,992\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 543\u003cbr\u003etok\u002fs: 34,737\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,166\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,165\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 306\u003cbr\u003etok\u002fs: 19,560\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 272\u003cbr\u003etok\u002fs: 17,421\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 243\u003cbr\u003etok\u002fs: 15,583\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 7,297\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 2,815\u003cbr\u003eGPU memory: 1.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 3\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,297\u003cbr\u003etok\u002fs: 2,003,005\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 31,112\u003cbr\u003etok\u002fs: 1,991,183\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,842\u003cbr\u003etok\u002fs: 1,973,882\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,283\u003cbr\u003etok\u002fs: 1,938,121\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,570\u003cbr\u003etok\u002fs: 1,828,481\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,494\u003cbr\u003etok\u002fs: 1,823,624\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,898\u003cbr\u003etok\u002fs: 1,721,465\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,575\u003cbr\u003etok\u002fs: 1,700,785\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,009\u003cbr\u003etok\u002fs: 1,600,579\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,987\u003cbr\u003etok\u002fs: 1,599,159\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,849\u003cbr\u003etok\u002fs: 1,590,314\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,893\u003cbr\u003etok\u002fs: 1,529,130\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,779\u003cbr\u003etok\u002fs: 1,521,841\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,202\u003cbr\u003etok\u002fs: 1,484,930\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,130\u003cbr\u003etok\u002fs: 1,480,291\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,062\u003cbr\u003etok\u002fs: 1,475,997\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,894\u003cbr\u003etok\u002fs: 1,401,232\u003cbr\u003eGPU memory: 40.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,305\u003cbr\u003etok\u002fs: 1,363,520\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,025\u003cbr\u003etok\u002fs: 1,345,594\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,334\u003cbr\u003etok\u002fs: 1,301,344\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,865\u003cbr\u003etok\u002fs: 1,271,368\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,389\u003cbr\u003etok\u002fs: 1,240,912\u003cbr\u003eGPU memory: 40.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,259\u003cbr\u003etok\u002fs: 1,232,559\u003cbr\u003eGPU memory: 44.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,089\u003cbr\u003etok\u002fs: 1,221,722\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,692\u003cbr\u003etok\u002fs: 1,196,317\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,562\u003cbr\u003etok\u002fs: 1,123,952\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,490\u003cbr\u003etok\u002fs: 1,119,341\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,471\u003cbr\u003etok\u002fs: 1,118,133\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,462\u003cbr\u003etok\u002fs: 1,117,581\u003cbr\u003eGPU memory: 26.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,307\u003cbr\u003etok\u002fs: 1,107,674\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,188\u003cbr\u003etok\u002fs: 1,100,004\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,121\u003cbr\u003etok\u002fs: 1,095,735\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,778\u003cbr\u003etok\u002fs: 1,073,780\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,657\u003cbr\u003etok\u002fs: 1,066,072\u003cbr\u003eGPU memory: 49.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,603\u003cbr\u003etok\u002fs: 1,062,580\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,057\u003cbr\u003etok\u002fs: 1,027,625\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,982\u003cbr\u003etok\u002fs: 1,022,872\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,975\u003cbr\u003etok\u002fs: 1,022,397\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,266\u003cbr\u003etok\u002fs: 977,037\u003cbr\u003eGPU memory: 43.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,635\u003cbr\u003etok\u002fs: 936,620\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,459\u003cbr\u003etok\u002fs: 925,379\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,324\u003cbr\u003etok\u002fs: 916,762\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,943\u003cbr\u003etok\u002fs: 892,373\u003cbr\u003eGPU memory: 53.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,470\u003cbr\u003etok\u002fs: 862,049\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,285\u003cbr\u003etok\u002fs: 850,220\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,916\u003cbr\u003etok\u002fs: 826,639\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,804\u003cbr\u003etok\u002fs: 819,487\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,514\u003cbr\u003etok\u002fs: 800,873\u003cbr\u003eGPU memory: 63.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,493\u003cbr\u003etok\u002fs: 735,544\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,998\u003cbr\u003etok\u002fs: 703,873\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,297\u003cbr\u003etok\u002fs: 658,996\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,471\u003cbr\u003etok\u002fs: 606,167\u003cbr\u003eGPU memory: 24.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 601,939\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,693\u003cbr\u003etok\u002fs: 556,342\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,527\u003cbr\u003etok\u002fs: 545,705\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,883\u003cbr\u003etok\u002fs: 504,504\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,448\u003cbr\u003etok\u002fs: 476,699\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,447\u003cbr\u003etok\u002fs: 476,638\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,421\u003cbr\u003etok\u002fs: 474,964\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,385\u003cbr\u003etok\u002fs: 472,669\u003cbr\u003eGPU memory: 16.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,361\u003cbr\u003etok\u002fs: 471,128\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,306\u003cbr\u003etok\u002fs: 467,552\u003cbr\u003eGPU memory: 28.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,889\u003cbr\u003etok\u002fs: 440,867\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,624\u003cbr\u003etok\u002fs: 423,922\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,098\u003cbr\u003etok\u002fs: 390,241\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,053\u003cbr\u003etok\u002fs: 323,423\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,845\u003cbr\u003etok\u002fs: 310,054\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,727\u003cbr\u003etok\u002fs: 302,507\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,713\u003cbr\u003etok\u002fs: 301,617\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,206\u003cbr\u003etok\u002fs: 269,185\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,043\u003cbr\u003etok\u002fs: 258,779\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,009\u003cbr\u003etok\u002fs: 256,552\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,798\u003cbr\u003etok\u002fs: 243,067\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,293\u003cbr\u003etok\u002fs: 210,769\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,193\u003cbr\u003etok\u002fs: 204,321\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,539\u003cbr\u003etok\u002fs: 162,509\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,414\u003cbr\u003etok\u002fs: 154,498\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,370\u003cbr\u003etok\u002fs: 151,687\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,078\u003cbr\u003etok\u002fs: 132,976\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,031\u003cbr\u003etok\u002fs: 129,980\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,981\u003cbr\u003etok\u002fs: 126,776\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,202\u003cbr\u003etok\u002fs: 76,921\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,182\u003cbr\u003etok\u002fs: 75,655\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,066\u003cbr\u003etok\u002fs: 68,237\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 998\u003cbr\u003etok\u002fs: 63,862\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 945\u003cbr\u003etok\u002fs: 60,506\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 890\u003cbr\u003etok\u002fs: 56,962\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 43,992\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 543\u003cbr\u003etok\u002fs: 34,737\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,166\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 440\u003cbr\u003etok\u002fs: 28,165\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 306\u003cbr\u003etok\u002fs: 19,560\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 272\u003cbr\u003etok\u002fs: 17,421\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 243\u003cbr\u003etok\u002fs: 15,583\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 7,297\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 2,815\u003cbr\u003eGPU memory: 1.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 3\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.4117647058823529,0.17647058823529413,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354],"y":[0.46849999999999986,0.45549999999999985,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.6645479927903223,0.662383696313292,0.6278212178867447,0.5822188680906885,0.5780573691276831,0.5704219002320626,0.5661923748616315,0.5550278984869349,0.5504298417054013,0.5396585535626218,0.5392319025024566,0.52332032767041,0.5018131955647718,0.4994895103531906,0.4882823248424402,0.4860671736724799,0.4852451328785392,0.4690581501640022,0.4689267205030534,0.5300506421086163,0.4525836513067531,0.5113109793644398,0.43454476522889807,0.4649831042992956,0.45889201329442114,0.45678194686088075,0.4479043443406279,0.42574748981282956,0.42363356679387393,0.40883096354729753,0.40682168254594275,0.40483091315458136,0.4038441414996614,0.39935893266170464,0.3951737661690557,0.3645321666219731,0.3544191712403627,0.34675742154869665,0.29016190764547245,0.3358864785801388,0.3358671956530625,0.2710788492361604,0.2703483909195305,0.27010380406305806,0.31301821259607077,0.2612211843646325,0.30371484304597224,0.2509670290084,0.2894508762290616,0.28806404811373115,0.28574752580762675,0.22848617263077464,0.2649397048580891,0.25243099861651425,0.22938970050014768,0.22269363979646484,0.1865336927658227,0.20896162466116677,0.17691489084593545,0.1800732288438651,0.17446215417034433,0.14795545479929872,0.16944370812230308,0.14115171330579612,0.16271370946696587,0.16039847268933324,0.15310232729503467,0.14679398197843344,0.12208252435819208,0.11847646431407066,0.13746824423292642,0.10151961639963787,0.11018058846865533,0.09558881189144687,0.09157616331970758,0.0911655655258287,0.08871611957574474,0.07511656431101935,0.08518605839230264,0.07174232241259143,0.08301557212058974,0.07870622357756916,0.07022687777786632,0.06000718353310016,0.05846943437518559,0.04317541414731421,0.04233311953627583,0.04784788393014849,0.047557868706920324,0.047359640216575544,0.04689376469841115,0.04333490767720174,0.038708547813046106,0.032860935900722234,0.030132787377961563,0.029299250716874944,0.02726297361761338,0.027082742525873185,0.02632376651614842,0.024516056379165076,0.020531689433804404,0.019907436807919676,0.0184234227401245,0.01832469415349364,0.01825707535587927,0.016802114231545786,0.014767122660755975,0.012708477366085854,0.01191402077054062,0.009492655863398777,0.009346035839626806,0.008822839007356047,0.008080060656375409,0.0070539518302197395,0.006677806199383922,0.005337771320425426,0.005314374702239465,0.004286466136223336,0.003924204212882484,0.0020504179124508815,0.0010968128921022527],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[11.34836765621957,11.327692325164008,10.997520053872371,10.561884876829202,10.522130448699478,10.44918949589711,10.408785217569427,10.302131971325835,10.25820714532375,10.155309991162879,10.151234231668862,9.999232377597878,9.793776664363099,9.771578706953735,9.664517464145725,9.643356322747996,9.635503440420514,9.480870639431565,9.4796151036122,9.33571219165239,9.323491222395562,9.182425358711,9.151167353881497,8.803472261070693,8.753648309485165,8.736388372350284,8.66377129310936,8.482532489355286,8.465241006094292,8.344158561765843,8.327723030060092,8.311438919759695,8.303367317624485,8.266679172953108,8.232445316893456,7.981802932612006,7.899080577639012,7.836408940424509,7.771890803294761,7.747486720132443,7.74732898950187,7.589592049703235,7.582614046606668,7.5802775301991066,7.560428707647748,7.49542265710076,7.484328936083763,7.397465626289447,7.367652434035999,7.356308447085159,7.337359740665606,7.182708012000988,7.167155771826449,7.064836963311015,6.876363581301307,6.821591094065921,6.78193971661484,6.709265854346909,6.690052160467993,6.472964338997195,6.4270668285754065,6.413405252892675,6.386016906199908,6.348409717721058,6.3309668130547125,6.312028622010532,6.252347557551701,6.200746507528378,6.1662434578592125,6.131795088141979,6.1244637684329275,5.96980783361816,5.901255998495881,5.7818980757283684,5.749075383043579,5.745716772149902,5.72568077591693,5.717581833805754,5.696805555146624,5.6853480021417715,5.679051395369281,5.643801754048735,5.57444233809792,5.490847206969086,5.478268714949625,5.412450877423952,5.404404512189633,5.391386477479641,5.3890142087958175,5.3873927379135225,5.383581965878869,5.35447120070024,5.316628467813067,5.268796128322911,5.246480398709385,5.239662229318465,5.223005874729912,5.221531619102819,5.21532334148345,5.200536620635962,5.167945266209346,5.162838999928916,5.150700050599986,5.1498924697714505,5.1493393610269065,5.137438059181374,5.120792219968193,5.103952897848176,5.097454395868551,5.090682494129266,5.089281846129774,5.072169124250096,5.066093340360408,5.057699967738828,5.05462316890511,5.043661941617795,5.043470561786032,5.035062467638932,5.032099234859227,5.01677202371764,5.0089717182670155],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,186\u003cbr\u003etok\u002fs: 3,863,823\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,088\u003cbr\u003etok\u002fs: 3,851,240\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,518\u003cbr\u003etok\u002fs: 3,650,286\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,446\u003cbr\u003etok\u002fs: 3,385,144\u003cbr\u003eGPU memory: 48.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,257\u003cbr\u003etok\u002fs: 3,360,948\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,911\u003cbr\u003etok\u002fs: 3,316,554\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,718\u003cbr\u003etok\u002fs: 3,291,963\u003cbr\u003eGPU memory: 29.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,211\u003cbr\u003etok\u002fs: 3,227,050\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,002\u003cbr\u003etok\u002fs: 3,200,316\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,513\u003cbr\u003etok\u002fs: 3,137,690\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,494\u003cbr\u003etok\u002fs: 3,135,209\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,771\u003cbr\u003etok\u002fs: 3,042,696\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,794\u003cbr\u003etok\u002fs: 2,917,649\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,689\u003cbr\u003etok\u002fs: 2,904,138\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,180\u003cbr\u003etok\u002fs: 2,838,977\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,079\u003cbr\u003etok\u002fs: 2,826,098\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,042\u003cbr\u003etok\u002fs: 2,821,318\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,306\u003cbr\u003etok\u002fs: 2,727,204\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,300\u003cbr\u003etok\u002fs: 2,726,440\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,616\u003cbr\u003etok\u002fs: 2,638,856\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,558\u003cbr\u003etok\u002fs: 2,631,418\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,887\u003cbr\u003etok\u002fs: 2,545,560\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,739\u003cbr\u003etok\u002fs: 2,526,536\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,085\u003cbr\u003etok\u002fs: 2,314,917\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,848\u003cbr\u003etok\u002fs: 2,284,593\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,766\u003cbr\u003etok\u002fs: 2,274,088\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,421\u003cbr\u003etok\u002fs: 2,229,891\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,559\u003cbr\u003etok\u002fs: 2,119,583\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,477\u003cbr\u003etok\u002fs: 2,109,059\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,901\u003cbr\u003etok\u002fs: 2,035,364\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,823\u003cbr\u003etok\u002fs: 2,025,361\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,746\u003cbr\u003etok\u002fs: 2,015,450\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,707\u003cbr\u003etok\u002fs: 2,010,537\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,533\u003cbr\u003etok\u002fs: 1,988,207\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,370\u003cbr\u003etok\u002fs: 1,967,372\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,178\u003cbr\u003etok\u002fs: 1,814,822\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,785\u003cbr\u003etok\u002fs: 1,764,475\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,487\u003cbr\u003etok\u002fs: 1,726,331\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,180\u003cbr\u003etok\u002fs: 1,687,063\u003cbr\u003eGPU memory: 41.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,064\u003cbr\u003etok\u002fs: 1,672,210\u003cbr\u003eGPU memory: 28.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,063\u003cbr\u003etok\u002fs: 1,672,114\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,313\u003cbr\u003etok\u002fs: 1,576,110\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,280\u003cbr\u003etok\u002fs: 1,571,863\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,269\u003cbr\u003etok\u002fs: 1,570,441\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,175\u003cbr\u003etok\u002fs: 1,558,360\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,866\u003cbr\u003etok\u002fs: 1,518,796\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,813\u003cbr\u003etok\u002fs: 1,512,044\u003cbr\u003eGPU memory: 32.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,400\u003cbr\u003etok\u002fs: 1,459,176\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,258\u003cbr\u003etok\u002fs: 1,441,030\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,204\u003cbr\u003etok\u002fs: 1,434,126\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,114\u003cbr\u003etok\u002fs: 1,422,593\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,379\u003cbr\u003etok\u002fs: 1,328,467\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,305\u003cbr\u003etok\u002fs: 1,319,002\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,818\u003cbr\u003etok\u002fs: 1,256,727\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,922\u003cbr\u003etok\u002fs: 1,142,016\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,662\u003cbr\u003etok\u002fs: 1,108,680\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,473\u003cbr\u003etok\u002fs: 1,084,547\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,127\u003cbr\u003etok\u002fs: 1,040,315\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,036\u003cbr\u003etok\u002fs: 1,028,621\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,004\u003cbr\u003etok\u002fs: 896,494\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,786\u003cbr\u003etok\u002fs: 868,559\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,721\u003cbr\u003etok\u002fs: 860,244\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,590\u003cbr\u003etok\u002fs: 843,575\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,412\u003cbr\u003etok\u002fs: 820,686\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,329\u003cbr\u003etok\u002fs: 810,070\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,239\u003cbr\u003etok\u002fs: 798,543\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,955\u003cbr\u003etok\u002fs: 762,220\u003cbr\u003eGPU memory: 42.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,709\u003cbr\u003etok\u002fs: 730,813\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,545\u003cbr\u003etok\u002fs: 709,814\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,382\u003cbr\u003etok\u002fs: 688,847\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,347\u003cbr\u003etok\u002fs: 684,385\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,611\u003cbr\u003etok\u002fs: 590,257\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,285\u003cbr\u003etok\u002fs: 548,534\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,718\u003cbr\u003etok\u002fs: 475,889\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,562\u003cbr\u003etok\u002fs: 455,912\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,546\u003cbr\u003etok\u002fs: 453,868\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,451\u003cbr\u003etok\u002fs: 441,673\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,412\u003cbr\u003etok\u002fs: 436,744\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,313\u003cbr\u003etok\u002fs: 424,099\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,259\u003cbr\u003etok\u002fs: 417,125\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,229\u003cbr\u003etok\u002fs: 413,293\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 391,839\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,731\u003cbr\u003etok\u002fs: 349,624\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,334\u003cbr\u003etok\u002fs: 298,746\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,274\u003cbr\u003etok\u002fs: 291,090\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,961\u003cbr\u003etok\u002fs: 251,031\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,923\u003cbr\u003etok\u002fs: 246,134\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,861\u003cbr\u003etok\u002fs: 238,211\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,850\u003cbr\u003etok\u002fs: 236,767\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,842\u003cbr\u003etok\u002fs: 235,780\u003cbr\u003eGPU memory: 9.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,824\u003cbr\u003etok\u002fs: 233,460\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,685\u003cbr\u003etok\u002fs: 215,743\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,506\u003cbr\u003etok\u002fs: 192,710\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,278\u003cbr\u003etok\u002fs: 163,598\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,172\u003cbr\u003etok\u002fs: 150,016\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,140\u003cbr\u003etok\u002fs: 145,866\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,060\u003cbr\u003etok\u002fs: 135,729\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,053\u003cbr\u003etok\u002fs: 134,831\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,024\u003cbr\u003etok\u002fs: 131,053\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 954\u003cbr\u003etok\u002fs: 122,053\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 799\u003cbr\u003etok\u002fs: 102,217\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 99,109\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 717\u003cbr\u003etok\u002fs: 91,721\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 713\u003cbr\u003etok\u002fs: 91,229\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 710\u003cbr\u003etok\u002fs: 90,893\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 83,649\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 574\u003cbr\u003etok\u002fs: 73,518\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 494\u003cbr\u003etok\u002fs: 63,269\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 463\u003cbr\u003etok\u002fs: 59,314\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 55,192\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 425\u003cbr\u003etok\u002fs: 54,340\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,924\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 314\u003cbr\u003etok\u002fs: 40,227\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 35,118\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 33,245\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,574\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 26,458\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 21,340\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 19,537\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 10,208\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 5,460\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 7\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,186\u003cbr\u003etok\u002fs: 3,863,823\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 30,088\u003cbr\u003etok\u002fs: 3,851,240\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 28,518\u003cbr\u003etok\u002fs: 3,650,286\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,446\u003cbr\u003etok\u002fs: 3,385,144\u003cbr\u003eGPU memory: 48.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 26,257\u003cbr\u003etok\u002fs: 3,360,948\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,911\u003cbr\u003etok\u002fs: 3,316,554\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,718\u003cbr\u003etok\u002fs: 3,291,963\u003cbr\u003eGPU memory: 29.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,211\u003cbr\u003etok\u002fs: 3,227,050\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 25,002\u003cbr\u003etok\u002fs: 3,200,316\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,513\u003cbr\u003etok\u002fs: 3,137,690\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 24,494\u003cbr\u003etok\u002fs: 3,135,209\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,771\u003cbr\u003etok\u002fs: 3,042,696\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,794\u003cbr\u003etok\u002fs: 2,917,649\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,689\u003cbr\u003etok\u002fs: 2,904,138\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,180\u003cbr\u003etok\u002fs: 2,838,977\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,079\u003cbr\u003etok\u002fs: 2,826,098\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,042\u003cbr\u003etok\u002fs: 2,821,318\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,306\u003cbr\u003etok\u002fs: 2,727,204\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 21,300\u003cbr\u003etok\u002fs: 2,726,440\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,616\u003cbr\u003etok\u002fs: 2,638,856\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20,558\u003cbr\u003etok\u002fs: 2,631,418\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,887\u003cbr\u003etok\u002fs: 2,545,560\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 19,739\u003cbr\u003etok\u002fs: 2,526,536\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,085\u003cbr\u003etok\u002fs: 2,314,917\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,848\u003cbr\u003etok\u002fs: 2,284,593\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,766\u003cbr\u003etok\u002fs: 2,274,088\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,421\u003cbr\u003etok\u002fs: 2,229,891\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,559\u003cbr\u003etok\u002fs: 2,119,583\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,477\u003cbr\u003etok\u002fs: 2,109,059\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,901\u003cbr\u003etok\u002fs: 2,035,364\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,823\u003cbr\u003etok\u002fs: 2,025,361\u003cbr\u003eGPU memory: 14.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,746\u003cbr\u003etok\u002fs: 2,015,450\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,707\u003cbr\u003etok\u002fs: 2,010,537\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,533\u003cbr\u003etok\u002fs: 1,988,207\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,370\u003cbr\u003etok\u002fs: 1,967,372\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,178\u003cbr\u003etok\u002fs: 1,814,822\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,785\u003cbr\u003etok\u002fs: 1,764,475\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,487\u003cbr\u003etok\u002fs: 1,726,331\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,180\u003cbr\u003etok\u002fs: 1,687,063\u003cbr\u003eGPU memory: 41.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,064\u003cbr\u003etok\u002fs: 1,672,210\u003cbr\u003eGPU memory: 28.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,063\u003cbr\u003etok\u002fs: 1,672,114\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,313\u003cbr\u003etok\u002fs: 1,576,110\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,280\u003cbr\u003etok\u002fs: 1,571,863\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,269\u003cbr\u003etok\u002fs: 1,570,441\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,175\u003cbr\u003etok\u002fs: 1,558,360\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,866\u003cbr\u003etok\u002fs: 1,518,796\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,813\u003cbr\u003etok\u002fs: 1,512,044\u003cbr\u003eGPU memory: 32.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,400\u003cbr\u003etok\u002fs: 1,459,176\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,258\u003cbr\u003etok\u002fs: 1,441,030\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,204\u003cbr\u003etok\u002fs: 1,434,126\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,114\u003cbr\u003etok\u002fs: 1,422,593\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,379\u003cbr\u003etok\u002fs: 1,328,467\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,305\u003cbr\u003etok\u002fs: 1,319,002\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,818\u003cbr\u003etok\u002fs: 1,256,727\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,922\u003cbr\u003etok\u002fs: 1,142,016\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,662\u003cbr\u003etok\u002fs: 1,108,680\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,473\u003cbr\u003etok\u002fs: 1,084,547\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,127\u003cbr\u003etok\u002fs: 1,040,315\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,036\u003cbr\u003etok\u002fs: 1,028,621\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,004\u003cbr\u003etok\u002fs: 896,494\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,786\u003cbr\u003etok\u002fs: 868,559\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,721\u003cbr\u003etok\u002fs: 860,244\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,590\u003cbr\u003etok\u002fs: 843,575\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,412\u003cbr\u003etok\u002fs: 820,686\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,329\u003cbr\u003etok\u002fs: 810,070\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,239\u003cbr\u003etok\u002fs: 798,543\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,955\u003cbr\u003etok\u002fs: 762,220\u003cbr\u003eGPU memory: 42.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,709\u003cbr\u003etok\u002fs: 730,813\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,545\u003cbr\u003etok\u002fs: 709,814\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,382\u003cbr\u003etok\u002fs: 688,847\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,347\u003cbr\u003etok\u002fs: 684,385\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,611\u003cbr\u003etok\u002fs: 590,257\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,285\u003cbr\u003etok\u002fs: 548,534\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,718\u003cbr\u003etok\u002fs: 475,889\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,562\u003cbr\u003etok\u002fs: 455,912\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,546\u003cbr\u003etok\u002fs: 453,868\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,451\u003cbr\u003etok\u002fs: 441,673\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,412\u003cbr\u003etok\u002fs: 436,744\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,313\u003cbr\u003etok\u002fs: 424,099\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,259\u003cbr\u003etok\u002fs: 417,125\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,229\u003cbr\u003etok\u002fs: 413,293\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 391,839\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,731\u003cbr\u003etok\u002fs: 349,624\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,334\u003cbr\u003etok\u002fs: 298,746\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,274\u003cbr\u003etok\u002fs: 291,090\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,961\u003cbr\u003etok\u002fs: 251,031\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,923\u003cbr\u003etok\u002fs: 246,134\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,861\u003cbr\u003etok\u002fs: 238,211\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,850\u003cbr\u003etok\u002fs: 236,767\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,842\u003cbr\u003etok\u002fs: 235,780\u003cbr\u003eGPU memory: 9.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,824\u003cbr\u003etok\u002fs: 233,460\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,685\u003cbr\u003etok\u002fs: 215,743\u003cbr\u003eGPU memory: 25.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,506\u003cbr\u003etok\u002fs: 192,710\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,278\u003cbr\u003etok\u002fs: 163,598\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,172\u003cbr\u003etok\u002fs: 150,016\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,140\u003cbr\u003etok\u002fs: 145,866\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,060\u003cbr\u003etok\u002fs: 135,729\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,053\u003cbr\u003etok\u002fs: 134,831\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,024\u003cbr\u003etok\u002fs: 131,053\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 954\u003cbr\u003etok\u002fs: 122,053\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 799\u003cbr\u003etok\u002fs: 102,217\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 99,109\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 717\u003cbr\u003etok\u002fs: 91,721\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 713\u003cbr\u003etok\u002fs: 91,229\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 710\u003cbr\u003etok\u002fs: 90,893\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 83,649\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 574\u003cbr\u003etok\u002fs: 73,518\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 494\u003cbr\u003etok\u002fs: 63,269\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 463\u003cbr\u003etok\u002fs: 59,314\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 55,192\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 425\u003cbr\u003etok\u002fs: 54,340\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,924\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 314\u003cbr\u003etok\u002fs: 40,227\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 35,118\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 33,245\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,574\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 26,458\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 21,340\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 19,537\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 10,208\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 5,460\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 7\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.5234006824882431,0.493559544947302,0.41749875648919843,0.40017051521124725,0.3810874568019351,0.37258679767594843,0.3647439473052631,0.34564415748182686,0.3403402992044779,0.33174959865248127,0.3244652693032816,0.30716014379484397,0.28720749215144875,0.29424872559134946,0.24935861175062524,0.28822833865242165,0.2424597653768381,0.24224357789433948,0.2206177848385314,0.21520363131807485,0.25065054168313206,0.21197711019434812,0.20213551628638693,0.21709310645641247,0.21224614990650348,0.1644050766855474,0.1908991783159114,0.18807204410082548,0.1490947320110404,0.16759331844005745,0.16251702361078718,0.15962895534614008,0.13380023814991415,0.1495522118674332,0.12020134102015681,0.13936362741168354,0.13733892006866777,0.11362193256602904,0.12586172187282985,0.10361170361571148,0.11420454969094608,0.09263941835325655,0.10327524372977058,0.10106490607543325,0.09661054992079857,0.08940027782841331,0.08832763287158006,0.08768666837556251,0.08532001045905964,0.08332204210825639,0.07133526471896624,0.08022854639382265,0.06799932895287517,0.07451180127992356,0.07151909099767549,0.06505056883349346,0.051197714021850374,0.048816915292158196,0.04130017486429672,0.04734575650908058,0.03986325460129425,0.04322743749696292,0.040519343218361654,0.03827403918959256,0.03339211626525182,0.026678459971109115,0.03048733613047188,0.029365841091711916,0.024541766948600198,0.023465522512046044,0.021087809050686072,0.020811934640647227,0.020494923319512186,0.020332946732070926,0.019895095734590817,0.01779711326868496,0.015239682926973494,0.013545613506893388,0.012500735965050079,0.011990895373151633,0.01140675123558569,0.010819007618298826,0.00879969949486444,0.008430752823470456,0.007353479964138896,0.006695546492294155,0.00608594889098744,0.0055761082990889955,0.005106633301203691,0.004121404280449862,0.003930117643852563,0.0026636149934785125,0.0020195652291287365,0.001989998074278349,0.001113524762235081,0.0010060545819962753],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,14.429860553504124,12.976656707905166,12.645586423556797,12.280988916373744,12.118576840684913,11.96873274164017,11.603815567045823,11.502480997665165,11.338348606565548,11.199175510447867,10.868546871865103,10.487335071594984,9.813795835995476,9.764201119593046,9.715304624115289,9.632392992385606,9.628262552939656,9.215084011539993,9.111642160934876,9.100546336842806,9.049996824356638,8.861965088112536,8.551559619444358,8.472265276842492,8.141094044890558,8.123037042302514,8.07678621526824,7.84857733280448,7.741762149780166,7.658715921245728,7.61146823662623,7.556363463529103,7.446616593851197,7.2965453626984305,7.279935275761513,7.246811843341096,7.170840359356644,7.059049300706507,6.979586712098697,6.86834245296788,6.769952188691261,6.6895432163000095,6.653382943472286,6.58051139214737,6.46255411737935,6.445006058959289,6.434520126638769,6.395802514520682,6.363116521715723,6.362918832658737,6.312508123127475,6.299183039456633,6.218984374572813,6.170024786842825,6.064202255253587,5.837574885245709,5.798625934869447,5.789073767881922,5.774558343719019,5.761620225861851,5.7071842306383544,5.662880851122895,5.626148541874959,5.54628216285288,5.509713893460741,5.498761078473723,5.480413851525423,5.401493856286786,5.383886911764644,5.344988435190166,5.340475236080692,5.335289052947439,5.332639178353805,5.325476104650698,5.291153919437924,5.249315343909558,5.221601020580272,5.204507226376263,5.196166430631541,5.1866100574938665,5.176994798254111,5.143959694986815,5.13792386952354,5.120300100400804,5.109536562170474,5.099563780168086,5.091222984423364,5.083542554251976,5.0674245868824475,5.0642952111718715,5.043575715539748,5.033039309417444,5.032555602150352,5.018216836293692,5.016458665531567],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,775\u003cbr\u003etok\u002fs: 6,086,326\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,419\u003cbr\u003etok\u002fs: 5,739,320\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,964\u003cbr\u003etok\u002fs: 4,854,853\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,177\u003cbr\u003etok\u002fs: 4,653,353\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,310\u003cbr\u003etok\u002fs: 4,431,447\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,924\u003cbr\u003etok\u002fs: 4,332,598\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,568\u003cbr\u003etok\u002fs: 4,241,398\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,700\u003cbr\u003etok\u002fs: 4,019,297\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,459\u003cbr\u003etok\u002fs: 3,957,622\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,069\u003cbr\u003etok\u002fs: 3,857,725\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,738\u003cbr\u003etok\u002fs: 3,773,020\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,952\u003cbr\u003etok\u002fs: 3,571,789\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 3,339,771\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,445\u003cbr\u003etok\u002fs: 2,929,833\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,327\u003cbr\u003etok\u002fs: 2,899,648\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,210\u003cbr\u003etok\u002fs: 2,869,888\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,013\u003cbr\u003etok\u002fs: 2,819,425\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,004\u003cbr\u003etok\u002fs: 2,816,911\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,021\u003cbr\u003etok\u002fs: 2,565,437\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,775\u003cbr\u003etok\u002fs: 2,502,479\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,749\u003cbr\u003etok\u002fs: 2,495,726\u003cbr\u003eGPU memory: 16.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,629\u003cbr\u003etok\u002fs: 2,464,960\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,182\u003cbr\u003etok\u002fs: 2,350,518\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,444\u003cbr\u003etok\u002fs: 2,161,595\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,255\u003cbr\u003etok\u002fs: 2,113,334\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,468\u003cbr\u003etok\u002fs: 1,911,772\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,425\u003cbr\u003etok\u002fs: 1,900,782\u003cbr\u003eGPU memory: 20.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,315\u003cbr\u003etok\u002fs: 1,872,632\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,772\u003cbr\u003etok\u002fs: 1,733,737\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,518\u003cbr\u003etok\u002fs: 1,668,726\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,321\u003cbr\u003etok\u002fs: 1,618,181\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,209\u003cbr\u003etok\u002fs: 1,589,425\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,078\u003cbr\u003etok\u002fs: 1,555,886\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,817\u003cbr\u003etok\u002fs: 1,489,091\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,460\u003cbr\u003etok\u002fs: 1,397,752\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,420\u003cbr\u003etok\u002fs: 1,387,643\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,342\u003cbr\u003etok\u002fs: 1,367,483\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,161\u003cbr\u003etok\u002fs: 1,321,244\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,895\u003cbr\u003etok\u002fs: 1,253,204\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,706\u003cbr\u003etok\u002fs: 1,204,841\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,442\u003cbr\u003etok\u002fs: 1,137,134\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,208\u003cbr\u003etok\u002fs: 1,077,251\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 1,028,311\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,931\u003cbr\u003etok\u002fs: 1,006,303\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 961,951\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,477\u003cbr\u003etok\u002fs: 890,158\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,435\u003cbr\u003etok\u002fs: 879,478\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,411\u003cbr\u003etok\u002fs: 873,096\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,318\u003cbr\u003etok\u002fs: 849,531\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,241\u003cbr\u003etok\u002fs: 829,637\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,240\u003cbr\u003etok\u002fs: 829,517\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,120\u003cbr\u003etok\u002fs: 798,835\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,089\u003cbr\u003etok\u002fs: 790,725\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,898\u003cbr\u003etok\u002fs: 741,914\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,782\u003cbr\u003etok\u002fs: 712,115\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,530\u003cbr\u003etok\u002fs: 647,708\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,991\u003cbr\u003etok\u002fs: 509,775\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 486,070\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,876\u003cbr\u003etok\u002fs: 480,256\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,841\u003cbr\u003etok\u002fs: 471,421\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,811\u003cbr\u003etok\u002fs: 463,547\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,681\u003cbr\u003etok\u002fs: 430,415\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,576\u003cbr\u003etok\u002fs: 403,451\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,489\u003cbr\u003etok\u002fs: 381,094\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 332,485\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,212\u003cbr\u003etok\u002fs: 310,228\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,186\u003cbr\u003etok\u002fs: 303,562\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,396\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 955\u003cbr\u003etok\u002fs: 244,362\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 233,646\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 820\u003cbr\u003etok\u002fs: 209,971\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 809\u003cbr\u003etok\u002fs: 207,224\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 797\u003cbr\u003etok\u002fs: 204,068\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 791\u003cbr\u003etok\u002fs: 202,455\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 198,095\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 692\u003cbr\u003etok\u002fs: 177,206\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 593\u003cbr\u003etok\u002fs: 151,741\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 527\u003cbr\u003etok\u002fs: 134,874\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 124,470\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 119,393\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 444\u003cbr\u003etok\u002fs: 113,577\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 421\u003cbr\u003etok\u002fs: 107,725\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 342\u003cbr\u003etok\u002fs: 87,619\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 328\u003cbr\u003etok\u002fs: 83,945\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 286\u003cbr\u003etok\u002fs: 73,219\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 66,668\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 60,598\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 55,521\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 199\u003cbr\u003etok\u002fs: 50,847\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 41,037\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,132\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,522\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 20,109\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 19,814\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 11,087\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 10,017\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23,775\u003cbr\u003etok\u002fs: 6,086,326\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 22,419\u003cbr\u003etok\u002fs: 5,739,320\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,964\u003cbr\u003etok\u002fs: 4,854,853\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 18,177\u003cbr\u003etok\u002fs: 4,653,353\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17,310\u003cbr\u003etok\u002fs: 4,431,447\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,924\u003cbr\u003etok\u002fs: 4,332,598\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,568\u003cbr\u003etok\u002fs: 4,241,398\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,700\u003cbr\u003etok\u002fs: 4,019,297\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,459\u003cbr\u003etok\u002fs: 3,957,622\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,069\u003cbr\u003etok\u002fs: 3,857,725\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,738\u003cbr\u003etok\u002fs: 3,773,020\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,952\u003cbr\u003etok\u002fs: 3,571,789\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 3,339,771\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,445\u003cbr\u003etok\u002fs: 2,929,833\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,327\u003cbr\u003etok\u002fs: 2,899,648\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,210\u003cbr\u003etok\u002fs: 2,869,888\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,013\u003cbr\u003etok\u002fs: 2,819,425\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,004\u003cbr\u003etok\u002fs: 2,816,911\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,021\u003cbr\u003etok\u002fs: 2,565,437\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,775\u003cbr\u003etok\u002fs: 2,502,479\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,749\u003cbr\u003etok\u002fs: 2,495,726\u003cbr\u003eGPU memory: 16.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,629\u003cbr\u003etok\u002fs: 2,464,960\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,182\u003cbr\u003etok\u002fs: 2,350,518\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,444\u003cbr\u003etok\u002fs: 2,161,595\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,255\u003cbr\u003etok\u002fs: 2,113,334\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,468\u003cbr\u003etok\u002fs: 1,911,772\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,425\u003cbr\u003etok\u002fs: 1,900,782\u003cbr\u003eGPU memory: 20.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,315\u003cbr\u003etok\u002fs: 1,872,632\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,772\u003cbr\u003etok\u002fs: 1,733,737\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,518\u003cbr\u003etok\u002fs: 1,668,726\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,321\u003cbr\u003etok\u002fs: 1,618,181\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,209\u003cbr\u003etok\u002fs: 1,589,425\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,078\u003cbr\u003etok\u002fs: 1,555,886\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,817\u003cbr\u003etok\u002fs: 1,489,091\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,460\u003cbr\u003etok\u002fs: 1,397,752\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,420\u003cbr\u003etok\u002fs: 1,387,643\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,342\u003cbr\u003etok\u002fs: 1,367,483\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,161\u003cbr\u003etok\u002fs: 1,321,244\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,895\u003cbr\u003etok\u002fs: 1,253,204\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,706\u003cbr\u003etok\u002fs: 1,204,841\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,442\u003cbr\u003etok\u002fs: 1,137,134\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,208\u003cbr\u003etok\u002fs: 1,077,251\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 1,028,311\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,931\u003cbr\u003etok\u002fs: 1,006,303\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 961,951\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,477\u003cbr\u003etok\u002fs: 890,158\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,435\u003cbr\u003etok\u002fs: 879,478\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,411\u003cbr\u003etok\u002fs: 873,096\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,318\u003cbr\u003etok\u002fs: 849,531\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,241\u003cbr\u003etok\u002fs: 829,637\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,240\u003cbr\u003etok\u002fs: 829,517\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,120\u003cbr\u003etok\u002fs: 798,835\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,089\u003cbr\u003etok\u002fs: 790,725\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,898\u003cbr\u003etok\u002fs: 741,914\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,782\u003cbr\u003etok\u002fs: 712,115\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,530\u003cbr\u003etok\u002fs: 647,708\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,991\u003cbr\u003etok\u002fs: 509,775\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 486,070\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,876\u003cbr\u003etok\u002fs: 480,256\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,841\u003cbr\u003etok\u002fs: 471,421\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,811\u003cbr\u003etok\u002fs: 463,547\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,681\u003cbr\u003etok\u002fs: 430,415\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,576\u003cbr\u003etok\u002fs: 403,451\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,489\u003cbr\u003etok\u002fs: 381,094\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 332,485\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,212\u003cbr\u003etok\u002fs: 310,228\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,186\u003cbr\u003etok\u002fs: 303,562\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,396\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 955\u003cbr\u003etok\u002fs: 244,362\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 233,646\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 820\u003cbr\u003etok\u002fs: 209,971\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 809\u003cbr\u003etok\u002fs: 207,224\u003cbr\u003eGPU memory: 2.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 797\u003cbr\u003etok\u002fs: 204,068\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 791\u003cbr\u003etok\u002fs: 202,455\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 198,095\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 692\u003cbr\u003etok\u002fs: 177,206\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 593\u003cbr\u003etok\u002fs: 151,741\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 527\u003cbr\u003etok\u002fs: 134,874\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 124,470\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 119,393\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 444\u003cbr\u003etok\u002fs: 113,577\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 421\u003cbr\u003etok\u002fs: 107,725\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 342\u003cbr\u003etok\u002fs: 87,619\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 328\u003cbr\u003etok\u002fs: 83,945\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 286\u003cbr\u003etok\u002fs: 73,219\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 66,668\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 60,598\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 55,521\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 199\u003cbr\u003etok\u002fs: 50,847\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 41,037\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,132\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,522\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 20,109\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 19,814\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 11,087\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 10,017\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.1183478079554158,0.06084532851369506,0.05828828410511934,0.0537644179362151,0.04349573266771693,0.045911620945989544,0.03874731330925203,0.0382887404721394,0.03765206613467913,0.042559219797344144,0.03313788657395202,0.033860048628971025,0.030811546411048753,0.02338171093809822,0.026472373607483418,0.02111680582613722,0.020756656916361714,0.015866223893762608,0.015342706751826054,0.014669707633701559,0.016556835399134735,0.015084648193279718,0.014160610327781476,0.011008494515035668,0.0086237230798733,0.010049490275105662,0.009919909005152652,0.008158986037557039,0.00932805169675617,0.008178017925923221,0.007761249595379912,0.007568677430310857,0.0066860335816031615,0.00576662361860324,0.005312574962379007,0.005155997594519121,0.004547171310295461,0.004528145488913473,0.004445614561026735,0.004379538397578475,0.004015733840071515,0.003963027172729518,0.0036701837868634915,0.003582510745089729,0.0028551587357701622,0.002604737789472087,0.0025746564232329958,0.0024553593810540337,0.0023496889406756888,0.0022651011672341404,0.0020259928714875175,0.00199873966788629,0.0019406337809629156,0.0012037688609523546,0.0011983696413709788,0.0010677599486405645,0.0010003982567205478,0.0009913995574182576,0.0006131970810276287,0.0005646041047952508,0.0005203819253668433],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[8.872249125225924,7.324999968453874,7.227291100501331,7.0544267416931685,6.662043406628304,6.502192876379985,6.480598501516948,6.463075679997779,6.4387473075381365,6.39250489280416,6.266253089943053,6.107874712246753,6.008130067622276,5.893453589970182,5.866155675505611,5.8069078445120885,5.679141827597476,5.606274482422709,5.586270032315852,5.5605536303071625,5.54172690224192,5.493558070739875,5.463324263471563,5.360189461827295,5.3295266272438235,5.328811581718557,5.324571782368744,5.311768261316331,5.3052066670844775,5.267578447854884,5.253942109073044,5.247641296150405,5.218761869229951,5.18867948336699,5.173823361042048,5.168700270161024,5.148779943057139,5.148157432835143,5.145457084439726,5.143295123263333,5.1313917183427264,5.12966719678179,5.120085586743224,5.117216992341862,5.093418594800946,5.085225014311426,5.084240775176648,5.080337467838724,5.076880012416555,5.074112365618761,5.066288926342319,5.065397222510811,5.063496042643632,5.039386389991718,5.039209731685476,5.034936283134473,5.032732260456594,5.032437829946191,5.020063336208938,5.018473411452758,5.017026495801631],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,603\u003cbr\u003etok\u002fs: 2,356,777\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,764\u003cbr\u003etok\u002fs: 1,415,071\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,648\u003cbr\u003etok\u002fs: 1,355,602\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,442\u003cbr\u003etok\u002fs: 1,250,391\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,976\u003cbr\u003etok\u002fs: 1,011,574\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,786\u003cbr\u003etok\u002fs: 914,284\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,760\u003cbr\u003etok\u002fs: 901,140\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,739\u003cbr\u003etok\u002fs: 890,476\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,710\u003cbr\u003etok\u002fs: 875,668\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,655\u003cbr\u003etok\u002fs: 847,524\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,505\u003cbr\u003etok\u002fs: 770,683\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,317\u003cbr\u003etok\u002fs: 674,289\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,198\u003cbr\u003etok\u002fs: 613,581\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,062\u003cbr\u003etok\u002fs: 543,785\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,030\u003cbr\u003etok\u002fs: 527,171\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 959\u003cbr\u003etok\u002fs: 491,110\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 413,348\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 721\u003cbr\u003etok\u002fs: 368,998\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 697\u003cbr\u003etok\u002fs: 356,823\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 666\u003cbr\u003etok\u002fs: 341,171\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 644\u003cbr\u003etok\u002fs: 329,713\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 587\u003cbr\u003etok\u002fs: 300,396\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 551\u003cbr\u003etok\u002fs: 281,994\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 428\u003cbr\u003etok\u002fs: 219,223\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,561\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,125\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,545\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 371\u003cbr\u003etok\u002fs: 189,752\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 363\u003cbr\u003etok\u002fs: 185,759\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 318\u003cbr\u003etok\u002fs: 162,857\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 154,557\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 150,723\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 133,146\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 114,836\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 105,795\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 102,676\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,552\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 90,173\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 88,530\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 87,214\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 156\u003cbr\u003etok\u002fs: 79,969\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 78,920\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 73,088\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 71,342\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 111\u003cbr\u003etok\u002fs: 56,858\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 51,871\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,272\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,896\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,792\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 45,107\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,346\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,803\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,646\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,972\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,864\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,263\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,922\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,743\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,211\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,244\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,363\u003cbr\u003eGPU memory: 0.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,603\u003cbr\u003etok\u002fs: 2,356,777\u003cbr\u003eGPU memory: 8.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,764\u003cbr\u003etok\u002fs: 1,415,071\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,648\u003cbr\u003etok\u002fs: 1,355,602\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,442\u003cbr\u003etok\u002fs: 1,250,391\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,976\u003cbr\u003etok\u002fs: 1,011,574\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,786\u003cbr\u003etok\u002fs: 914,284\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,760\u003cbr\u003etok\u002fs: 901,140\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,739\u003cbr\u003etok\u002fs: 890,476\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,710\u003cbr\u003etok\u002fs: 875,668\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,655\u003cbr\u003etok\u002fs: 847,524\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,505\u003cbr\u003etok\u002fs: 770,683\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,317\u003cbr\u003etok\u002fs: 674,289\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,198\u003cbr\u003etok\u002fs: 613,581\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,062\u003cbr\u003etok\u002fs: 543,785\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,030\u003cbr\u003etok\u002fs: 527,171\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 959\u003cbr\u003etok\u002fs: 491,110\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 413,348\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 721\u003cbr\u003etok\u002fs: 368,998\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 697\u003cbr\u003etok\u002fs: 356,823\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 666\u003cbr\u003etok\u002fs: 341,171\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 644\u003cbr\u003etok\u002fs: 329,713\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 587\u003cbr\u003etok\u002fs: 300,396\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 551\u003cbr\u003etok\u002fs: 281,994\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 428\u003cbr\u003etok\u002fs: 219,223\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,561\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,125\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,545\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 371\u003cbr\u003etok\u002fs: 189,752\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 363\u003cbr\u003etok\u002fs: 185,759\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 318\u003cbr\u003etok\u002fs: 162,857\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 154,557\u003cbr\u003eGPU memory: 2.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 150,723\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 260\u003cbr\u003etok\u002fs: 133,146\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 114,836\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 207\u003cbr\u003etok\u002fs: 105,795\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 102,676\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,552\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 90,173\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 88,530\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 87,214\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 156\u003cbr\u003etok\u002fs: 79,969\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 78,920\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 73,088\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 71,342\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 111\u003cbr\u003etok\u002fs: 56,858\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 51,871\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,272\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,896\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,792\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 45,107\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,346\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,803\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,646\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,972\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 23,864\u003cbr\u003eGPU memory: 1.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,263\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,922\u003cbr\u003eGPU memory: 0.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 19,743\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,211\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,244\u003cbr\u003eGPU memory: 1.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,363\u003cbr\u003eGPU memory: 0.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143],"type":"scatter","xaxis":"x","yaxis":"y"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[1.0,0.9077265226156155,0.9799581032369848,0.8886337638892723,0.9476972304425463,0.9475620795941093,0.9376522349506184,0.9300770907744936,0.9030189168572681,0.8928491199061981,0.8072348395677766,0.8517480422912576,0.770788057489354,0.768512147320549,0.8400727135916096,0.7425411069954397,0.8089301836286057,0.7975251566258313,0.783410415990659,0.658578520133296,0.47150892557729557,0.4547937347109683,0.4523651094082646,0.2301846767726547],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.497275685271566,5.494685179534127,5.487309337324596,5.484280168175499,5.471266789698282,5.47119958246751,5.466271657681483,5.46250472267027,5.449049350693385,5.443992157945469,5.43992006577832,5.4235535914090995,5.420057604467888,5.418817298051353,5.417747734329211,5.404663818533211,5.4022613114007685,5.3965898687824225,5.389570951460637,5.358906592847697,5.256958975737584,5.247849671350587,5.224950169773941,5.125444112646584],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 46.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,426\u003cbr\u003etok\u002fs: 131,409\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,341\u003cbr\u003etok\u002fs: 130,724\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,097\u003cbr\u003etok\u002fs: 128,775\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,997\u003cbr\u003etok\u002fs: 127,975\u003cbr\u003eGPU memory: 69.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,567\u003cbr\u003etok\u002fs: 124,536\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,565\u003cbr\u003etok\u002fs: 124,518\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 123,216\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,278\u003cbr\u003etok\u002fs: 122,220\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,833\u003cbr\u003etok\u002fs: 118,665\u003cbr\u003eGPU memory: 32.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,666\u003cbr\u003etok\u002fs: 117,328\u003cbr\u003eGPU memory: 56.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,532\u003cbr\u003etok\u002fs: 116,252\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,991\u003cbr\u003etok\u002fs: 111,927\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,875\u003cbr\u003etok\u002fs: 111,003\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,834\u003cbr\u003etok\u002fs: 110,676\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,799\u003cbr\u003etok\u002fs: 110,393\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,367\u003cbr\u003etok\u002fs: 106,935\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,288\u003cbr\u003etok\u002fs: 106,300\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,100\u003cbr\u003etok\u002fs: 104,802\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,868\u003cbr\u003etok\u002fs: 102,947\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,855\u003cbr\u003etok\u002fs: 94,844\u003cbr\u003eGPU memory: 67.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,488\u003cbr\u003etok\u002fs: 67,903\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 65,496\u003cbr\u003eGPU memory: 17.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,431\u003cbr\u003etok\u002fs: 59,445\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,144\u003cbr\u003etok\u002fs: 33,150\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 46.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,426\u003cbr\u003etok\u002fs: 131,409\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,341\u003cbr\u003etok\u002fs: 130,724\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,097\u003cbr\u003etok\u002fs: 128,775\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,997\u003cbr\u003etok\u002fs: 127,975\u003cbr\u003eGPU memory: 69.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,567\u003cbr\u003etok\u002fs: 124,536\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 44.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,565\u003cbr\u003etok\u002fs: 124,518\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 123,216\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,278\u003cbr\u003etok\u002fs: 122,220\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,833\u003cbr\u003etok\u002fs: 118,665\u003cbr\u003eGPU memory: 32.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,666\u003cbr\u003etok\u002fs: 117,328\u003cbr\u003eGPU memory: 56.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,532\u003cbr\u003etok\u002fs: 116,252\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,991\u003cbr\u003etok\u002fs: 111,927\u003cbr\u003eGPU memory: 56.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,875\u003cbr\u003etok\u002fs: 111,003\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,834\u003cbr\u003etok\u002fs: 110,676\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,799\u003cbr\u003etok\u002fs: 110,393\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,367\u003cbr\u003etok\u002fs: 106,935\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,288\u003cbr\u003etok\u002fs: 106,300\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,100\u003cbr\u003etok\u002fs: 104,802\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,868\u003cbr\u003etok\u002fs: 102,947\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,855\u003cbr\u003etok\u002fs: 94,844\u003cbr\u003eGPU memory: 67.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,488\u003cbr\u003etok\u002fs: 67,903\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 65,496\u003cbr\u003eGPU memory: 17.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,431\u003cbr\u003etok\u002fs: 59,445\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,144\u003cbr\u003etok\u002fs: 33,150\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.910211303231936,0.8774469738039915,0.937662584339913,0.9247922055705285,0.922945143975225,0.9000583827313745,0.813972578019677,0.8880470032734512,0.8857147379565071,0.8025780284998995,0.8689499448742825,0.8573099258557576,0.8563882214209226,0.7804127632703439,0.7733511645234927,0.7692765242774139,0.7617410784780876,0.8319356584555426,0.7572642515192396,0.8148701242961656,0.8035174530274705,0.6990043953381891,0.6941020503931796,0.7517211947578518,0.7273636026589408,0.6556682215308138,0.6500526062277995,0.6330191101316148,0.6276051436914943,0.5877919921664136,0.5861999105106178,0.5931600277363633,0.5725562200134057,0.5465354201760737,0.4672215263381359,0.44960530391364373,0.42639901948556713,0.4662947786113434,0.4132368482530394,0.45049247873352705,0.4372543922503774,0.4293864212359728,0.3512416073468639,0.3654661578014002,0.3162730753332047,0.22483626010063745,0.2247795984366838,0.1966676184046234,0.15423999259714274,0.1502822643733232,0.14841937430027477,0.09208277806830477,0.06530722459692039,0.04602738691922424],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.992078628827179,5.956367370465631,5.932553608362275,5.919753355517774,5.917916357876687,5.895154298114322,5.887183883827155,5.883208364212331,5.8808888065448945,5.874764471957026,5.864215358608096,5.852638761740074,5.851722079331173,5.8506055916416,5.842908850041899,5.838467723576055,5.830254515599343,5.827402749320662,5.825375028457116,5.810430198933403,5.799139384163797,5.761875093847935,5.75653181626633,5.747625344512741,5.72340046790764,5.714641125497091,5.708520423732508,5.689954880334801,5.684053964378957,5.6406598902403,5.638924611651191,5.589928118536601,5.5694365733273274,5.54355755118648,5.509244929789635,5.49004424778761,5.464750715666187,5.463754111145017,5.450404696513942,5.448037912143802,5.434871955088616,5.427046853732847,5.381939903415338,5.363474868128515,5.31454982053853,5.245058754861929,5.244996996866084,5.195596049425772,5.1533995960300505,5.149463432000814,5.147610692125492,5.091581053131251,5.071015035044636,5.045776600743033],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,385\u003cbr\u003etok\u002fs: 262,164\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,795\u003cbr\u003etok\u002fs: 252,727\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 246,434\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,191\u003cbr\u003etok\u002fs: 243,052\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,160\u003cbr\u003etok\u002fs: 242,566\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,784\u003cbr\u003etok\u002fs: 236,551\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,653\u003cbr\u003etok\u002fs: 234,445\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,587\u003cbr\u003etok\u002fs: 233,394\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,549\u003cbr\u003etok\u002fs: 232,781\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,448\u003cbr\u003etok\u002fs: 231,163\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,273\u003cbr\u003etok\u002fs: 228,375\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,082\u003cbr\u003etok\u002fs: 225,316\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,067\u003cbr\u003etok\u002fs: 225,074\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,049\u003cbr\u003etok\u002fs: 224,779\u003cbr\u003eGPU memory: 57.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,922\u003cbr\u003etok\u002fs: 222,745\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,848\u003cbr\u003etok\u002fs: 221,571\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,713\u003cbr\u003etok\u002fs: 219,401\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,665\u003cbr\u003etok\u002fs: 218,647\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,632\u003cbr\u003etok\u002fs: 218,111\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,385\u003cbr\u003etok\u002fs: 214,162\u003cbr\u003eGPU memory: 34.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,199\u003cbr\u003etok\u002fs: 211,178\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,583\u003cbr\u003etok\u002fs: 201,331\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,495\u003cbr\u003etok\u002fs: 199,919\u003cbr\u003eGPU memory: 21.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,348\u003cbr\u003etok\u002fs: 197,565\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,948\u003cbr\u003etok\u002fs: 191,164\u003cbr\u003eGPU memory: 49.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,803\u003cbr\u003etok\u002fs: 188,849\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,702\u003cbr\u003etok\u002fs: 187,232\u003cbr\u003eGPU memory: 67.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,395\u003cbr\u003etok\u002fs: 182,326\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,298\u003cbr\u003etok\u002fs: 180,766\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,581\u003cbr\u003etok\u002fs: 169,299\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,553\u003cbr\u003etok\u002fs: 168,840\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,743\u003cbr\u003etok\u002fs: 155,893\u003cbr\u003eGPU memory: 55.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 150,478\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,977\u003cbr\u003etok\u002fs: 143,639\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,411\u003cbr\u003etok\u002fs: 134,572\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,094\u003cbr\u003etok\u002fs: 129,498\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,676\u003cbr\u003etok\u002fs: 122,814\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,659\u003cbr\u003etok\u002fs: 122,550\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 119,023\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,400\u003cbr\u003etok\u002fs: 118,397\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,182\u003cbr\u003etok\u002fs: 114,918\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,053\u003cbr\u003etok\u002fs: 112,850\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,308\u003cbr\u003etok\u002fs: 100,930\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,003\u003cbr\u003etok\u002fs: 96,051\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,195\u003cbr\u003etok\u002fs: 83,122\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,047\u003cbr\u003etok\u002fs: 64,759\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,046\u003cbr\u003etok\u002fs: 64,742\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,230\u003cbr\u003etok\u002fs: 51,688\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,224\u003cbr\u003etok\u002fs: 51,580\u003cbr\u003eGPU memory: 76.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,534\u003cbr\u003etok\u002fs: 40,537\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,469\u003cbr\u003etok\u002fs: 39,497\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,438\u003cbr\u003etok\u002fs: 39,007\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,663\u003cbr\u003etok\u002fs: 26,605\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 24,201\u003cbr\u003eGPU memory: 31.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 18,766\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 756\u003cbr\u003etok\u002fs: 12,097\u003cbr\u003eGPU memory: 7.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 16,385\u003cbr\u003etok\u002fs: 262,164\u003cbr\u003eGPU memory: 65.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,795\u003cbr\u003etok\u002fs: 252,727\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,402\u003cbr\u003etok\u002fs: 246,434\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,191\u003cbr\u003etok\u002fs: 243,052\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,160\u003cbr\u003etok\u002fs: 242,566\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,784\u003cbr\u003etok\u002fs: 236,551\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,653\u003cbr\u003etok\u002fs: 234,445\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,587\u003cbr\u003etok\u002fs: 233,394\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,549\u003cbr\u003etok\u002fs: 232,781\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,448\u003cbr\u003etok\u002fs: 231,163\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,273\u003cbr\u003etok\u002fs: 228,375\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,082\u003cbr\u003etok\u002fs: 225,316\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,067\u003cbr\u003etok\u002fs: 225,074\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,049\u003cbr\u003etok\u002fs: 224,779\u003cbr\u003eGPU memory: 57.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,922\u003cbr\u003etok\u002fs: 222,745\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,848\u003cbr\u003etok\u002fs: 221,571\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,713\u003cbr\u003etok\u002fs: 219,401\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,665\u003cbr\u003etok\u002fs: 218,647\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,632\u003cbr\u003etok\u002fs: 218,111\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,385\u003cbr\u003etok\u002fs: 214,162\u003cbr\u003eGPU memory: 34.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,199\u003cbr\u003etok\u002fs: 211,178\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,583\u003cbr\u003etok\u002fs: 201,331\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,495\u003cbr\u003etok\u002fs: 199,919\u003cbr\u003eGPU memory: 21.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,348\u003cbr\u003etok\u002fs: 197,565\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,948\u003cbr\u003etok\u002fs: 191,164\u003cbr\u003eGPU memory: 49.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,803\u003cbr\u003etok\u002fs: 188,849\u003cbr\u003eGPU memory: 68.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,702\u003cbr\u003etok\u002fs: 187,232\u003cbr\u003eGPU memory: 67.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,395\u003cbr\u003etok\u002fs: 182,326\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,298\u003cbr\u003etok\u002fs: 180,766\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,581\u003cbr\u003etok\u002fs: 169,299\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,553\u003cbr\u003etok\u002fs: 168,840\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,743\u003cbr\u003etok\u002fs: 155,893\u003cbr\u003eGPU memory: 55.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,405\u003cbr\u003etok\u002fs: 150,478\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,977\u003cbr\u003etok\u002fs: 143,639\u003cbr\u003eGPU memory: 28.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,411\u003cbr\u003etok\u002fs: 134,572\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,094\u003cbr\u003etok\u002fs: 129,498\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,676\u003cbr\u003etok\u002fs: 122,814\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,659\u003cbr\u003etok\u002fs: 122,550\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 119,023\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,400\u003cbr\u003etok\u002fs: 118,397\u003cbr\u003eGPU memory: 23.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,182\u003cbr\u003etok\u002fs: 114,918\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,053\u003cbr\u003etok\u002fs: 112,850\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,308\u003cbr\u003etok\u002fs: 100,930\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,003\u003cbr\u003etok\u002fs: 96,051\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,195\u003cbr\u003etok\u002fs: 83,122\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,047\u003cbr\u003etok\u002fs: 64,759\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,046\u003cbr\u003etok\u002fs: 64,742\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,230\u003cbr\u003etok\u002fs: 51,688\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,224\u003cbr\u003etok\u002fs: 51,580\u003cbr\u003eGPU memory: 76.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,534\u003cbr\u003etok\u002fs: 40,537\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,469\u003cbr\u003etok\u002fs: 39,497\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,438\u003cbr\u003etok\u002fs: 39,007\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,663\u003cbr\u003etok\u002fs: 26,605\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 24,201\u003cbr\u003eGPU memory: 31.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 18,766\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 756\u003cbr\u003etok\u002fs: 12,097\u003cbr\u003eGPU memory: 7.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.29411764705882354,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354],"y":[0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8547517553645165,0.8357234353932578,0.8651084950831271,0.8633107452838747,0.8319417463315982,0.8256200958353449,0.7518513960921378,0.8090525499373254,0.7979945318697269,0.7250243202361212,0.7247171251364509,0.7884329137366228,0.7112144284136918,0.7699769086861208,0.7491935086195195,0.7465952031189408,0.6969570969110728,0.6966131319139247,0.66192684929889,0.6448479218121903,0.5823313631795078,0.5657244055036835,0.5586387265624382,0.5549153815667637,0.5242464883608944,0.5154963841060168,0.5148054101736934,0.5147907992711596,0.4455717711492567,0.43388002564697714,0.4547071153268978,0.4383995217364572,0.4345872937503692,0.41906077465787667,0.348514466924265,0.2866062465261058,0.28442922204858256,0.26654547734731765,0.2523850776417273,0.22754324332069767,0.22296809170969498,0.20568972229576818,0.1723988454750495,0.18594138958206125,0.18140835707097674,0.15912551313185308,0.14517381374431243,0.14927898239934156,0.14647368911286862,0.14643959700695663,0.1455976437484514,0.09330704994310882,0.09210895593534434,0.08190263172794013,0.06516356863646366,0.06493026690223361,0.05644800436378957,0.05005451693007893,0.045831357310230254,0.04188239414570637,0.04429173345574024,0.040853301059473074,0.02838593968497677,0.025340175294303154,0.016743714677881067,0.01805907553166944,0.013233824969910674,0.010371914436119614],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.863261742495798,6.8217821662283065,6.7207896789068595,6.717213769853379,6.654817608052274,6.642243195721988,6.638950646884734,6.609288644763165,6.587293110713922,6.580470668584797,6.579801018159273,6.5682740698761455,6.550366672963561,6.531563179640689,6.49022286159912,6.48505456500574,6.3863192718853385,6.385635090166674,6.316640510339015,6.2826687688604075,6.269416229516931,6.125283965686773,6.1111898222822845,6.103783706545379,6.042780127003502,6.025375270645335,6.024000852502531,6.023971789916251,5.971295852284562,5.945809175058488,5.90445916948816,5.872021690376894,5.86443877724012,5.833554935553715,5.693231081467273,5.5700892705775225,5.5657589452218685,5.530186339615696,5.5020198497464285,5.496018425679702,5.486045114821435,5.44733374989707,5.374932792769228,5.369856527699067,5.360839860305835,5.316516994347327,5.315723827930114,5.296931233077098,5.291351216511424,5.291283403810105,5.289608672275746,5.18559730880451,5.183214176729587,5.162912749272224,5.141717647286765,5.141210262967968,5.112280880208863,5.099563576829369,5.091163278453483,5.0910857782234045,5.088100808424275,5.081261413119821,5.056462550435697,5.050404212137504,5.036414209667185,5.035921356641528,5.026323437522705,5.020630803435198],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,387\u003cbr\u003etok\u002fs: 492,380\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,044\u003cbr\u003etok\u002fs: 481,419\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,210\u003cbr\u003etok\u002fs: 454,731\u003cbr\u003eGPU memory: 53.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,181\u003cbr\u003etok\u002fs: 453,786\u003cbr\u003eGPU memory: 37.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,666\u003cbr\u003etok\u002fs: 437,298\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,562\u003cbr\u003etok\u002fs: 433,975\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,535\u003cbr\u003etok\u002fs: 433,105\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,290\u003cbr\u003etok\u002fs: 425,266\u003cbr\u003eGPU memory: 28.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,108\u003cbr\u003etok\u002fs: 419,454\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,052\u003cbr\u003etok\u002fs: 417,651\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 417,474\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,951\u003cbr\u003etok\u002fs: 414,428\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,803\u003cbr\u003etok\u002fs: 409,696\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,648\u003cbr\u003etok\u002fs: 404,727\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,306\u003cbr\u003etok\u002fs: 393,802\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,264\u003cbr\u003etok\u002fs: 392,436\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,448\u003cbr\u003etok\u002fs: 366,345\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,443\u003cbr\u003etok\u002fs: 366,164\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,873\u003cbr\u003etok\u002fs: 347,932\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,592\u003cbr\u003etok\u002fs: 338,955\u003cbr\u003eGPU memory: 47.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,483\u003cbr\u003etok\u002fs: 335,452\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,293\u003cbr\u003etok\u002fs: 297,364\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,176\u003cbr\u003etok\u002fs: 293,640\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,115\u003cbr\u003etok\u002fs: 291,683\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,611\u003cbr\u003etok\u002fs: 275,562\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,468\u003cbr\u003etok\u002fs: 270,963\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,600\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,592\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,021\u003cbr\u003etok\u002fs: 256,672\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,811\u003cbr\u003etok\u002fs: 249,937\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,469\u003cbr\u003etok\u002fs: 239,010\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,201\u003cbr\u003etok\u002fs: 230,438\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,139\u003cbr\u003etok\u002fs: 228,434\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,884\u003cbr\u003etok\u002fs: 220,273\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,725\u003cbr\u003etok\u002fs: 183,191\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,708\u003cbr\u003etok\u002fs: 150,650\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,672\u003cbr\u003etok\u002fs: 149,506\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,378\u003cbr\u003etok\u002fs: 140,106\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,146\u003cbr\u003etok\u002fs: 132,662\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,096\u003cbr\u003etok\u002fs: 131,076\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,014\u003cbr\u003etok\u002fs: 128,441\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,694\u003cbr\u003etok\u002fs: 118,211\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 99,079\u003cbr\u003eGPU memory: 23.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,054\u003cbr\u003etok\u002fs: 97,737\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,980\u003cbr\u003etok\u002fs: 95,355\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,857\u003cbr\u003etok\u002fs: 91,422\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 83,642\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,607\u003cbr\u003etok\u002fs: 83,432\u003cbr\u003eGPU memory: 32.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,468\u003cbr\u003etok\u002fs: 78,978\u003cbr\u003eGPU memory: 76.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,452\u003cbr\u003etok\u002fs: 78,466\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,406\u003cbr\u003etok\u002fs: 76,992\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,405\u003cbr\u003etok\u002fs: 76,974\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,392\u003cbr\u003etok\u002fs: 76,531\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,533\u003cbr\u003etok\u002fs: 49,045\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 48,416\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,501\u003cbr\u003etok\u002fs: 48,028\u003cbr\u003eGPU memory: 73.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,354\u003cbr\u003etok\u002fs: 43,315\u003cbr\u003eGPU memory: 74.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,345\u003cbr\u003etok\u002fs: 43,051\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,170\u003cbr\u003etok\u002fs: 37,450\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,166\u003cbr\u003etok\u002fs: 37,316\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 927\u003cbr\u003etok\u002fs: 29,671\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 26,310\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 754\u003cbr\u003etok\u002fs: 24,124\u003cbr\u003eGPU memory: 73.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 753\u003cbr\u003etok\u002fs: 24,091\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 752\u003cbr\u003etok\u002fs: 24,070\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 728\u003cbr\u003etok\u002fs: 23,281\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 671\u003cbr\u003etok\u002fs: 21,474\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 14,921\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 13,320\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 9,623\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 9,492\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 6,956\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 5,452\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,387\u003cbr\u003etok\u002fs: 492,380\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 15,044\u003cbr\u003etok\u002fs: 481,419\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,210\u003cbr\u003etok\u002fs: 454,731\u003cbr\u003eGPU memory: 53.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 14,181\u003cbr\u003etok\u002fs: 453,786\u003cbr\u003eGPU memory: 37.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,666\u003cbr\u003etok\u002fs: 437,298\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,562\u003cbr\u003etok\u002fs: 433,975\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,535\u003cbr\u003etok\u002fs: 433,105\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,290\u003cbr\u003etok\u002fs: 425,266\u003cbr\u003eGPU memory: 28.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,108\u003cbr\u003etok\u002fs: 419,454\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,052\u003cbr\u003etok\u002fs: 417,651\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,046\u003cbr\u003etok\u002fs: 417,474\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,951\u003cbr\u003etok\u002fs: 414,428\u003cbr\u003eGPU memory: 52.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,803\u003cbr\u003etok\u002fs: 409,696\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,648\u003cbr\u003etok\u002fs: 404,727\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,306\u003cbr\u003etok\u002fs: 393,802\u003cbr\u003eGPU memory: 27.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,264\u003cbr\u003etok\u002fs: 392,436\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,448\u003cbr\u003etok\u002fs: 366,345\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,443\u003cbr\u003etok\u002fs: 366,164\u003cbr\u003eGPU memory: 24.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,873\u003cbr\u003etok\u002fs: 347,932\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,592\u003cbr\u003etok\u002fs: 338,955\u003cbr\u003eGPU memory: 47.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,483\u003cbr\u003etok\u002fs: 335,452\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,293\u003cbr\u003etok\u002fs: 297,364\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,176\u003cbr\u003etok\u002fs: 293,640\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,115\u003cbr\u003etok\u002fs: 291,683\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,611\u003cbr\u003etok\u002fs: 275,562\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,468\u003cbr\u003etok\u002fs: 270,963\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,600\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,456\u003cbr\u003etok\u002fs: 270,592\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,021\u003cbr\u003etok\u002fs: 256,672\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,811\u003cbr\u003etok\u002fs: 249,937\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,469\u003cbr\u003etok\u002fs: 239,010\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,201\u003cbr\u003etok\u002fs: 230,438\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,139\u003cbr\u003etok\u002fs: 228,434\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,884\u003cbr\u003etok\u002fs: 220,273\u003cbr\u003eGPU memory: 15.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,725\u003cbr\u003etok\u002fs: 183,191\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,708\u003cbr\u003etok\u002fs: 150,650\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,672\u003cbr\u003etok\u002fs: 149,506\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,378\u003cbr\u003etok\u002fs: 140,106\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,146\u003cbr\u003etok\u002fs: 132,662\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,096\u003cbr\u003etok\u002fs: 131,076\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,014\u003cbr\u003etok\u002fs: 128,441\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,694\u003cbr\u003etok\u002fs: 118,211\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 99,079\u003cbr\u003eGPU memory: 23.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,054\u003cbr\u003etok\u002fs: 97,737\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,980\u003cbr\u003etok\u002fs: 95,355\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,857\u003cbr\u003etok\u002fs: 91,422\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 83,642\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,607\u003cbr\u003etok\u002fs: 83,432\u003cbr\u003eGPU memory: 32.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,468\u003cbr\u003etok\u002fs: 78,978\u003cbr\u003eGPU memory: 76.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,452\u003cbr\u003etok\u002fs: 78,466\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,406\u003cbr\u003etok\u002fs: 76,992\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,405\u003cbr\u003etok\u002fs: 76,974\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,392\u003cbr\u003etok\u002fs: 76,531\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,533\u003cbr\u003etok\u002fs: 49,045\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 48,416\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,501\u003cbr\u003etok\u002fs: 48,028\u003cbr\u003eGPU memory: 73.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,354\u003cbr\u003etok\u002fs: 43,315\u003cbr\u003eGPU memory: 74.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,345\u003cbr\u003etok\u002fs: 43,051\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,170\u003cbr\u003etok\u002fs: 37,450\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,166\u003cbr\u003etok\u002fs: 37,316\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 927\u003cbr\u003etok\u002fs: 29,671\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 26,310\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 754\u003cbr\u003etok\u002fs: 24,124\u003cbr\u003eGPU memory: 73.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 753\u003cbr\u003etok\u002fs: 24,091\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 752\u003cbr\u003etok\u002fs: 24,070\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 728\u003cbr\u003etok\u002fs: 23,281\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 671\u003cbr\u003etok\u002fs: 21,474\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 466\u003cbr\u003etok\u002fs: 14,921\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 13,320\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 9,623\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 9,492\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 217\u003cbr\u003etok\u002fs: 6,956\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 170\u003cbr\u003etok\u002fs: 5,452\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8235294117647058,0.058823529411764705,0.47058823529411764,0.5294117647058824,0.8823529411764706,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.7395058194283539,0.7393886075548812,0.7610319923974606,0.6864027301735951,0.7444370510571903,0.7394869990362893,0.6721962067034903,0.6711440773747822,0.7120982534492385,0.6401373705424197,0.6941311048460104,0.6852957703263529,0.67582607912169,0.6750772703668372,0.6684828830232882,0.6574772206897687,0.6420280176231837,0.6300817784390566,0.6186749250734656,0.5946899109891643,0.5261924308511537,0.5642712294891846,0.5617611981914139,0.531207974630603,0.5294613629902187,0.5002900872940549,0.4984217181325563,0.4923892417489495,0.4909092790798054,0.4889337632997263,0.42291543816543625,0.41883857589332,0.4575227580026654,0.4540703234914701,0.4528478779794827,0.4354560336635195,0.424816861468554,0.42263861941581965,0.40354095222904546,0.4028304970933436,0.360189795623913,0.3595901398324252,0.2950787436328427,0.29101630394086486,0.284723875249679,0.27720839225890037,0.224946805895998,0.24079437041925383,0.219558948261817,0.23382009960982805,0.21858031947955966,0.17926298954894324,0.1455652483962545,0.15570047406290852,0.14516296939807347,0.14362030160555558,0.14311379031772023,0.13936426745500605,0.13160892214763223,0.08310218909395742,0.09049262484255231,0.09027041736651877,0.0870535836586796,0.08294731125910063,0.07833087484605286,0.0641123188173077,0.06330773407754053,0.05536375363826694,0.053015051055972554,0.04611931384766552,0.043689033726224576,0.04239840400241325,0.04048620213331354,0.03518366208878681,0.03158329218943766,0.026258227003504792,0.025304256825574443,0.020372468432840685,0.016645160007335194,0.016631796662176433,0.01805237886800815,0.01607808066314017,0.013454206083127515,0.013389674596936949,0.013300791606523529,0.012229934208323467,0.010390178064286753,0.009358891860448835,0.006663789130584335,0.006532291007780914,0.0062863408151300785,0.006142666940215232,0.0020668339209148363],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[8.224077383979735,8.223566366837652,8.027541644264257,7.9925599779124346,7.9615235576480625,7.941831233561475,7.930622762786328,7.926035717918538,7.832873175717241,7.790853519721387,7.76139616664487,7.726247390421941,7.68857501295707,7.6855960978634155,7.65936226998174,7.615579483751593,7.554119379416909,7.506594785203269,7.461215978609937,7.365798664089784,7.294079466798417,7.2447868985861055,7.234801478316889,7.113254476849228,7.106306096846225,6.99025676794978,6.982824011508784,6.958825580888443,6.952937985284644,6.9450789775782145,6.843815239451493,6.8260410460593555,6.820119544104896,6.806385050205618,6.801521910768173,6.732333580365317,6.690008767213528,6.681343272737841,6.60536882843871,6.602542491923023,6.432909019573652,6.430523465616538,6.173883875592756,6.157722655739134,6.1326900814236796,6.102791945788589,5.980716974003517,5.957929484478157,5.957227138643068,5.930184402109944,5.8695574252486065,5.713145007774242,5.6331502390397725,5.619408479493924,5.577488120667859,5.571351071198492,5.569336065216444,5.554419692808463,5.523567335590528,5.361461073087561,5.359998256244824,5.359114269245487,5.346317043753723,5.329981448382425,5.311616315735938,5.278862780998881,5.2753631612343845,5.220248388237403,5.210904766748526,5.183472107182818,5.173803953480487,5.168669563237766,5.161062431279093,5.139967837404518,5.125644826133078,5.104460622617474,5.1006655332258015,5.081045865604914,5.072399746186747,5.072341621014187,5.071816072578965,5.063961908636916,5.053523596398176,5.053266876886041,5.0529132820863065,5.048653191314162,5.041334263336094,5.037231594906298,5.026509922451332,5.025986795898301,5.025008355493555,5.024436791296724,5.008222290034923],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,312\u003cbr\u003etok\u002fs: 851,986\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,310\u003cbr\u003etok\u002fs: 851,851\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,501\u003cbr\u003etok\u002fs: 800,050\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,356\u003cbr\u003etok\u002fs: 790,806\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,228\u003cbr\u003etok\u002fs: 782,604\u003cbr\u003eGPU memory: 28.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,147\u003cbr\u003etok\u002fs: 777,400\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,101\u003cbr\u003etok\u002fs: 774,438\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,082\u003cbr\u003etok\u002fs: 773,226\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,697\u003cbr\u003etok\u002fs: 748,607\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,523\u003cbr\u003etok\u002fs: 737,503\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,402\u003cbr\u003etok\u002fs: 729,719\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,257\u003cbr\u003etok\u002fs: 720,431\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,101\u003cbr\u003etok\u002fs: 710,476\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,089\u003cbr\u003etok\u002fs: 709,688\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,981\u003cbr\u003etok\u002fs: 702,756\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,800\u003cbr\u003etok\u002fs: 691,186\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,546\u003cbr\u003etok\u002fs: 674,945\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,350\u003cbr\u003etok\u002fs: 662,386\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,162\u003cbr\u003etok\u002fs: 650,394\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,768\u003cbr\u003etok\u002fs: 625,180\u003cbr\u003eGPU memory: 43.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,472\u003cbr\u003etok\u002fs: 606,227\u003cbr\u003eGPU memory: 65.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,269\u003cbr\u003etok\u002fs: 593,201\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,228\u003cbr\u003etok\u002fs: 590,563\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,726\u003cbr\u003etok\u002fs: 558,443\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,697\u003cbr\u003etok\u002fs: 556,607\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,218\u003cbr\u003etok\u002fs: 525,940\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 523,976\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,088\u003cbr\u003etok\u002fs: 517,634\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,064\u003cbr\u003etok\u002fs: 516,078\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,031\u003cbr\u003etok\u002fs: 514,001\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,613\u003cbr\u003etok\u002fs: 487,242\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,540\u003cbr\u003etok\u002fs: 482,545\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,515\u003cbr\u003etok\u002fs: 480,980\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,459\u003cbr\u003etok\u002fs: 477,350\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 476,065\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,153\u003cbr\u003etok\u002fs: 457,782\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,978\u003cbr\u003etok\u002fs: 446,597\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,942\u003cbr\u003etok\u002fs: 444,307\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,629\u003cbr\u003etok\u002fs: 424,230\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,617\u003cbr\u003etok\u002fs: 423,484\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,917\u003cbr\u003etok\u002fs: 378,657\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,907\u003cbr\u003etok\u002fs: 378,026\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,847\u003cbr\u003etok\u002fs: 310,207\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,780\u003cbr\u003etok\u002fs: 305,937\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,677\u003cbr\u003etok\u002fs: 299,322\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,553\u003cbr\u003etok\u002fs: 291,421\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,049\u003cbr\u003etok\u002fs: 259,162\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,955\u003cbr\u003etok\u002fs: 253,140\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,952\u003cbr\u003etok\u002fs: 252,954\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,841\u003cbr\u003etok\u002fs: 245,808\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,590\u003cbr\u003etok\u002fs: 229,787\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,945\u003cbr\u003etok\u002fs: 188,454\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 167,315\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,558\u003cbr\u003etok\u002fs: 163,683\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,384\u003cbr\u003etok\u002fs: 152,605\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,359\u003cbr\u003etok\u002fs: 150,984\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,351\u003cbr\u003etok\u002fs: 150,451\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,289\u003cbr\u003etok\u002fs: 146,509\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 138,356\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,492\u003cbr\u003etok\u002fs: 95,519\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,486\u003cbr\u003etok\u002fs: 95,132\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,483\u003cbr\u003etok\u002fs: 94,899\u003cbr\u003eGPU memory: 31.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,430\u003cbr\u003etok\u002fs: 91,517\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,362\u003cbr\u003etok\u002fs: 87,200\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,287\u003cbr\u003etok\u002fs: 82,347\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,151\u003cbr\u003etok\u002fs: 73,692\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,137\u003cbr\u003etok\u002fs: 72,767\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 968\u003cbr\u003etok\u002fs: 61,982\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 909\u003cbr\u003etok\u002fs: 58,202\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 871\u003cbr\u003etok\u002fs: 55,733\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 758\u003cbr\u003etok\u002fs: 48,484\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 718\u003cbr\u003etok\u002fs: 45,929\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 696\u003cbr\u003etok\u002fs: 44,572\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,562\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 41,143\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 606\u003cbr\u003etok\u002fs: 38,813\u003cbr\u003eGPU memory: 68.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 36,988\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 519\u003cbr\u003etok\u002fs: 33,203\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 27,604\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 26,602\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 335\u003cbr\u003etok\u002fs: 21,417\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,132\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,117\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 18,978\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,902\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 221\u003cbr\u003etok\u002fs: 14,144\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 14,076\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,857\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 10,923\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,839\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 7,005\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 6,867\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,609\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 6,458\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 2,173\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,312\u003cbr\u003etok\u002fs: 851,986\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,310\u003cbr\u003etok\u002fs: 851,851\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,501\u003cbr\u003etok\u002fs: 800,050\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,356\u003cbr\u003etok\u002fs: 790,806\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,228\u003cbr\u003etok\u002fs: 782,604\u003cbr\u003eGPU memory: 28.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,147\u003cbr\u003etok\u002fs: 777,400\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,101\u003cbr\u003etok\u002fs: 774,438\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,082\u003cbr\u003etok\u002fs: 773,226\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,697\u003cbr\u003etok\u002fs: 748,607\u003cbr\u003eGPU memory: 25.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,523\u003cbr\u003etok\u002fs: 737,503\u003cbr\u003eGPU memory: 64.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,402\u003cbr\u003etok\u002fs: 729,719\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,257\u003cbr\u003etok\u002fs: 720,431\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,101\u003cbr\u003etok\u002fs: 710,476\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,089\u003cbr\u003etok\u002fs: 709,688\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,981\u003cbr\u003etok\u002fs: 702,756\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,800\u003cbr\u003etok\u002fs: 691,186\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,546\u003cbr\u003etok\u002fs: 674,945\u003cbr\u003eGPU memory: 24.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,350\u003cbr\u003etok\u002fs: 662,386\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,162\u003cbr\u003etok\u002fs: 650,394\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,768\u003cbr\u003etok\u002fs: 625,180\u003cbr\u003eGPU memory: 43.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,472\u003cbr\u003etok\u002fs: 606,227\u003cbr\u003eGPU memory: 65.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,269\u003cbr\u003etok\u002fs: 593,201\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,228\u003cbr\u003etok\u002fs: 590,563\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,726\u003cbr\u003etok\u002fs: 558,443\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,697\u003cbr\u003etok\u002fs: 556,607\u003cbr\u003eGPU memory: 46.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,218\u003cbr\u003etok\u002fs: 525,940\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,187\u003cbr\u003etok\u002fs: 523,976\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,088\u003cbr\u003etok\u002fs: 517,634\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,064\u003cbr\u003etok\u002fs: 516,078\u003cbr\u003eGPU memory: 24.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,031\u003cbr\u003etok\u002fs: 514,001\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,613\u003cbr\u003etok\u002fs: 487,242\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,540\u003cbr\u003etok\u002fs: 482,545\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,515\u003cbr\u003etok\u002fs: 480,980\u003cbr\u003eGPU memory: 40.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,459\u003cbr\u003etok\u002fs: 477,350\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,439\u003cbr\u003etok\u002fs: 476,065\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,153\u003cbr\u003etok\u002fs: 457,782\u003cbr\u003eGPU memory: 46.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,978\u003cbr\u003etok\u002fs: 446,597\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,942\u003cbr\u003etok\u002fs: 444,307\u003cbr\u003eGPU memory: 53.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,629\u003cbr\u003etok\u002fs: 424,230\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,617\u003cbr\u003etok\u002fs: 423,484\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,917\u003cbr\u003etok\u002fs: 378,657\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,907\u003cbr\u003etok\u002fs: 378,026\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,847\u003cbr\u003etok\u002fs: 310,207\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,780\u003cbr\u003etok\u002fs: 305,937\u003cbr\u003eGPU memory: 13.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,677\u003cbr\u003etok\u002fs: 299,322\u003cbr\u003eGPU memory: 13.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,553\u003cbr\u003etok\u002fs: 291,421\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,049\u003cbr\u003etok\u002fs: 259,162\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,955\u003cbr\u003etok\u002fs: 253,140\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,952\u003cbr\u003etok\u002fs: 252,954\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,841\u003cbr\u003etok\u002fs: 245,808\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,590\u003cbr\u003etok\u002fs: 229,787\u003cbr\u003eGPU memory: 65.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,945\u003cbr\u003etok\u002fs: 188,454\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,614\u003cbr\u003etok\u002fs: 167,315\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,558\u003cbr\u003etok\u002fs: 163,683\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,384\u003cbr\u003etok\u002fs: 152,605\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,359\u003cbr\u003etok\u002fs: 150,984\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,351\u003cbr\u003etok\u002fs: 150,451\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,289\u003cbr\u003etok\u002fs: 146,509\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 138,356\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,492\u003cbr\u003etok\u002fs: 95,519\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,486\u003cbr\u003etok\u002fs: 95,132\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,483\u003cbr\u003etok\u002fs: 94,899\u003cbr\u003eGPU memory: 31.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,430\u003cbr\u003etok\u002fs: 91,517\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,362\u003cbr\u003etok\u002fs: 87,200\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,287\u003cbr\u003etok\u002fs: 82,347\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,151\u003cbr\u003etok\u002fs: 73,692\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,137\u003cbr\u003etok\u002fs: 72,767\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 968\u003cbr\u003etok\u002fs: 61,982\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 909\u003cbr\u003etok\u002fs: 58,202\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 871\u003cbr\u003etok\u002fs: 55,733\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 758\u003cbr\u003etok\u002fs: 48,484\u003cbr\u003eGPU memory: 4.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 718\u003cbr\u003etok\u002fs: 45,929\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 696\u003cbr\u003etok\u002fs: 44,572\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,562\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 41,143\u003cbr\u003eGPU memory: 70.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 606\u003cbr\u003etok\u002fs: 38,813\u003cbr\u003eGPU memory: 68.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 36,988\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 519\u003cbr\u003etok\u002fs: 33,203\u003cbr\u003eGPU memory: 11.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 431\u003cbr\u003etok\u002fs: 27,604\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 416\u003cbr\u003etok\u002fs: 26,602\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 335\u003cbr\u003etok\u002fs: 21,417\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,132\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,117\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 18,978\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,902\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 221\u003cbr\u003etok\u002fs: 14,144\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 14,076\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,857\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 10,923\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,839\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 7,005\u003cbr\u003eGPU memory: 9.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 6,867\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,609\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 6,458\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 2,173\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.23529411764705882,0.6470588235294118,0.7058823529411765,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.7408640328437136,0.6705835713068486,0.6681910047710803,0.6205518775422834,0.6154367736041929,0.6036922549835252,0.595659630858331,0.5932692863486,0.588859120170874,0.5794271751486284,0.5655239582326285,0.5619276090910996,0.5561520079133926,0.5505669454683924,0.5435475652162517,0.5405894930539655,0.5860834806092018,0.5836994683457841,0.5316086193173116,0.578610612750813,0.5194808012051928,0.5473761558593677,0.5406904503749829,0.5364581589410505,0.4887246278085468,0.5035647558244233,0.4992959371341568,0.4823265914164601,0.46667953237806453,0.4596340334187869,0.44847434782105794,0.4408894630432441,0.438487795939265,0.42556201749777334,0.387327469150468,0.38405609131690865,0.3759401412153121,0.41119463000628886,0.40579529273247616,0.40369619306846616,0.4026600365637837,0.3608998024746736,0.3881349730824561,0.3835879384564435,0.37881260847834153,0.37680239180474484,0.37438306986020414,0.36698630045251185,0.3610287049443904,0.3599481069445012,0.3563081658507899,0.31228689940302307,0.33967304452855196,0.3074204145410404,0.33608545916891974,0.32849935681589476,0.3277682029016036,0.3116931661764912,0.30371074309223933,0.30175349094032733,0.29566500609700797,0.2941935664543419,0.2742399438941343,0.27323787949536377,0.26688274568080417,0.23959419938169335,0.25748489141359876,0.24519468723232377,0.24456763599858522,0.2142962733840595,0.21195295313580317,0.21011200456381887,0.19898967511679364,0.21668455487581043,0.1983083010016383,0.17039155967099373,0.16766655087070273,0.16798398158052225,0.1627605839247198,0.15578631311529406,0.14967530313056854,0.14277895713465596,0.14041381728701108,0.14027501371294085,0.13880296528266922,0.13871956138070596,0.12155296847880416,0.1078009917836401,0.10624249165449945,0.08869913655653903,0.0879765056687258,0.08725022205527916,0.08648010573423136,0.07851689128635707,0.07745784618252512,0.08362550065170715,0.08322796234526902,0.0821479731329854,0.07169691630814151,0.0695144127421681,0.06280716544013522,0.06214957749711445,0.05558048202585035,0.05004112360275636,0.047622410445821266,0.04447376094980608,0.041298324799145754,0.04028164949784155,0.039938293288299294,0.03952310014129961,0.03713604393985423,0.035673736111271774,0.029599253382880532,0.02873294862015246,0.02583146689199926,0.02326238319648803,0.023042002083271187,0.02087654457025379,0.020725565244072087,0.016548275754934165,0.01638680200093245,0.017854522896197454,0.016347773572408287,0.015610531782061345,0.014852591213124976,0.012821066973333278,0.012692612788557718,0.010587425248491883,0.010217891171910054,0.009875143749973368,0.008247854480281066,0.007530093893312407,0.006650395803261764,0.0065785588658043405,0.006195631461899942,0.00615058117908766,0.006129882400498233,0.005734170456876835,0.004129406328590675,0.003199787654883177,0.0030731598329243283,0.002564822182272226,0.002035176965425124,0.0019152458071275635,0.0010331125666546313],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[11.459997771868386,10.84718407757773,10.826321984393392,10.41093043869974,10.366329056289386,10.263922189769001,10.193881356835277,10.173038638708459,10.13458399329623,10.052341717889476,9.9311119829887,9.899753452393062,9.849392834134978,9.800693627059205,9.739487820354466,9.713694775031364,9.663121031140562,9.644152849828773,9.635385636301107,9.603663823376976,9.529636572358573,9.355149648100518,9.301955427680177,9.268281577710933,9.26145671369962,9.00656814449918,8.97260366866714,8.837588580341098,8.713094148248253,8.657037263079374,8.56824621823096,8.507897757821468,8.488789107342663,8.385946302028085,8.377319557667438,8.348794629234057,8.278027231643344,8.271633462661843,8.228674116376283,8.211972816794301,8.203728729819666,8.14688231105686,8.088161355479023,8.051983279325361,8.013988791529226,7.997994681546711,7.978745561900887,7.919893824684792,7.872492746462841,7.8638950646884735,7.834934197460899,7.716644627538738,7.702578335779435,7.674310126858189,7.674034032288533,7.613675884350282,7.607858523329991,7.4799589248780585,7.416447486328475,7.400874783847015,7.3524322962833795,7.3407249177771,7.1819656964606615,7.173992860291304,7.1234288039292615,7.084276656446324,7.048655613196352,6.950869697894416,6.945880620583092,6.864205065608789,6.848133455396196,6.832081220241123,6.731049982804636,6.7240313682181245,6.577822340410073,6.482269400487283,6.458564017611927,6.336549592881604,6.294990094501843,6.239499929765417,6.190878222919724,6.136008060023928,6.117190035407917,6.116085657129295,6.104373434858635,6.103709839138585,5.967125371153446,5.937781846539857,5.924224150040446,5.705726782626386,5.699977234307415,5.694198623402164,5.688071261461557,5.683033746506435,5.673820906655816,5.665358850284087,5.662195872143995,5.653603034134008,5.570450131023827,5.5530852357217935,5.546371778291217,5.5406512925585245,5.442221156594059,5.398147744501117,5.378903468619672,5.353851519246698,5.328586444241006,5.320497357726531,5.317765474616253,5.314462027309144,5.295469627175455,5.283834905134874,5.235503824151978,5.228611147439344,5.205525766404619,5.185085080721334,5.1833316380158,5.166102368116405,5.164901114550184,5.143956677371386,5.142551985701208,5.142057921734455,5.13006960489414,5.1242038062300495,5.118173319577043,5.102009677841231,5.100987643557067,5.084237906331285,5.081297741352669,5.078570702006772,5.065623319819231,5.059912521615298,5.0529132820863065,5.052341717889475,5.049294990094502,5.048936551530387,5.04877186354147,5.045623416694518,5.032855253789035,5.0254588255808885,5.024451322589864,5.020406779332626,5.016192704322091,5.015238482739246,5.008219868152733],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,337\u003cbr\u003etok\u002fs: 1,707,101\u003cbr\u003eGPU memory: 66.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,072\u003cbr\u003etok\u002fs: 1,545,161\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,028\u003cbr\u003etok\u002fs: 1,539,648\u003cbr\u003eGPU memory: 59.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,171\u003cbr\u003etok\u002fs: 1,429,878\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,079\u003cbr\u003etok\u002fs: 1,418,092\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,867\u003cbr\u003etok\u002fs: 1,391,030\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,723\u003cbr\u003etok\u002fs: 1,372,521\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,680\u003cbr\u003etok\u002fs: 1,367,013\u003cbr\u003eGPU memory: 30.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,600\u003cbr\u003etok\u002fs: 1,356,851\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,431\u003cbr\u003etok\u002fs: 1,335,118\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,180\u003cbr\u003etok\u002fs: 1,303,082\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,116\u003cbr\u003etok\u002fs: 1,294,796\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,012\u003cbr\u003etok\u002fs: 1,281,487\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,911\u003cbr\u003etok\u002fs: 1,268,618\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,785\u003cbr\u003etok\u002fs: 1,252,444\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,731\u003cbr\u003etok\u002fs: 1,245,628\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,627\u003cbr\u003etok\u002fs: 1,232,264\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,588\u003cbr\u003etok\u002fs: 1,227,251\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,570\u003cbr\u003etok\u002fs: 1,224,934\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,504\u003cbr\u003etok\u002fs: 1,216,552\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,351\u003cbr\u003etok\u002fs: 1,196,989\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,991\u003cbr\u003etok\u002fs: 1,150,880\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,881\u003cbr\u003etok\u002fs: 1,136,823\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,812\u003cbr\u003etok\u002fs: 1,127,924\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,798\u003cbr\u003etok\u002fs: 1,126,121\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,272\u003cbr\u003etok\u002fs: 1,058,765\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,201\u003cbr\u003etok\u002fs: 1,049,789\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,923\u003cbr\u003etok\u002fs: 1,014,111\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,666\u003cbr\u003etok\u002fs: 981,212\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,550\u003cbr\u003etok\u002fs: 966,399\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,367\u003cbr\u003etok\u002fs: 942,935\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,242\u003cbr\u003etok\u002fs: 926,988\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,203\u003cbr\u003etok\u002fs: 921,938\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,990\u003cbr\u003etok\u002fs: 894,761\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,973\u003cbr\u003etok\u002fs: 892,481\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,914\u003cbr\u003etok\u002fs: 884,943\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,768\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,754\u003cbr\u003etok\u002fs: 864,553\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,666\u003cbr\u003etok\u002fs: 853,201\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,631\u003cbr\u003etok\u002fs: 848,787\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,614\u003cbr\u003etok\u002fs: 846,609\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,497\u003cbr\u003etok\u002fs: 831,587\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,376\u003cbr\u003etok\u002fs: 816,069\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,301\u003cbr\u003etok\u002fs: 806,509\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,222\u003cbr\u003etok\u002fs: 796,468\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,189\u003cbr\u003etok\u002fs: 792,242\u003cbr\u003eGPU memory: 43.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,150\u003cbr\u003etok\u002fs: 787,155\u003cbr\u003eGPU memory: 43.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,603\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,930\u003cbr\u003etok\u002fs: 759,077\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,913\u003cbr\u003etok\u002fs: 756,805\u003cbr\u003eGPU memory: 47.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,853\u003cbr\u003etok\u002fs: 749,152\u003cbr\u003eGPU memory: 38.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 717,893\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 714,176\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,706\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,633\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,396\u003cbr\u003etok\u002fs: 690,683\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,384\u003cbr\u003etok\u002fs: 689,146\u003cbr\u003eGPU memory: 52.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,120\u003cbr\u003etok\u002fs: 655,347\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,989\u003cbr\u003etok\u002fs: 638,564\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,957\u003cbr\u003etok\u002fs: 634,449\u003cbr\u003eGPU memory: 26.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,857\u003cbr\u003etok\u002fs: 621,647\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,832\u003cbr\u003etok\u002fs: 618,554\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,505\u003cbr\u003etok\u002fs: 576,600\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,488\u003cbr\u003etok\u002fs: 574,493\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,384\u003cbr\u003etok\u002fs: 561,132\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,303\u003cbr\u003etok\u002fs: 550,785\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,229\u003cbr\u003etok\u002fs: 541,372\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,028\u003cbr\u003etok\u002fs: 515,532\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 514,213\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,849\u003cbr\u003etok\u002fs: 492,630\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,815\u003cbr\u003etok\u002fs: 488,383\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,782\u003cbr\u003etok\u002fs: 484,141\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,574\u003cbr\u003etok\u002fs: 457,443\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,559\u003cbr\u003etok\u002fs: 455,588\u003cbr\u003eGPU memory: 35.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,257\u003cbr\u003etok\u002fs: 416,951\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,060\u003cbr\u003etok\u002fs: 391,700\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,011\u003cbr\u003etok\u002fs: 385,436\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,759\u003cbr\u003etok\u002fs: 353,193\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,674\u003cbr\u003etok\u002fs: 342,211\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,559\u003cbr\u003etok\u002fs: 327,547\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,498\u003cbr\u003etok\u002fs: 319,736\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,459\u003cbr\u003etok\u002fs: 314,698\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,345\u003cbr\u003etok\u002fs: 300,198\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,306\u003cbr\u003etok\u002fs: 295,226\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,304\u003cbr\u003etok\u002fs: 294,934\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,280\u003cbr\u003etok\u002fs: 291,839\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,279\u003cbr\u003etok\u002fs: 291,663\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,997\u003cbr\u003etok\u002fs: 255,570\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,936\u003cbr\u003etok\u002fs: 247,816\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,233\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,457\u003cbr\u003etok\u002fs: 186,493\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 184,974\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,433\u003cbr\u003etok\u002fs: 183,447\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,421\u003cbr\u003etok\u002fs: 181,828\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,410\u003cbr\u003etok\u002fs: 180,497\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,391\u003cbr\u003etok\u002fs: 178,062\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,826\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,367\u003cbr\u003etok\u002fs: 174,990\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,349\u003cbr\u003etok\u002fs: 172,719\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,178\u003cbr\u003etok\u002fs: 150,746\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 146,157\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,128\u003cbr\u003etok\u002fs: 144,383\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,116\u003cbr\u003etok\u002fs: 142,871\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 116,860\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 105,213\u003cbr\u003eGPU memory: 37.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 100,128\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 731\u003cbr\u003etok\u002fs: 93,508\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 86,831\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,694\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 656\u003cbr\u003etok\u002fs: 83,972\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 649\u003cbr\u003etok\u002fs: 83,099\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 610\u003cbr\u003etok\u002fs: 78,080\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 75,005\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 562\u003cbr\u003etok\u002fs: 71,978\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 62,234\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 472\u003cbr\u003etok\u002fs: 60,412\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 54,312\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 382\u003cbr\u003etok\u002fs: 48,910\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 378\u003cbr\u003etok\u002fs: 48,447\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,894\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 340\u003cbr\u003etok\u002fs: 43,576\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 38,042\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,670\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 293\u003cbr\u003etok\u002fs: 37,540\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 34,372\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,822\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 244\u003cbr\u003etok\u002fs: 31,228\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 26,957\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,687\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 22,260\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 168\u003cbr\u003etok\u002fs: 21,484\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 20,763\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 17,341\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 124\u003cbr\u003etok\u002fs: 15,832\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 108\u003cbr\u003etok\u002fs: 13,832\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,027\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,932\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,888\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,056\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 68\u003cbr\u003etok\u002fs: 8,682\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 53\u003cbr\u003etok\u002fs: 6,728\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 50\u003cbr\u003etok\u002fs: 6,461\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 5,393\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 4,279\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 4,027\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,172\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 13,337\u003cbr\u003etok\u002fs: 1,707,101\u003cbr\u003eGPU memory: 66.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,072\u003cbr\u003etok\u002fs: 1,545,161\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 12,028\u003cbr\u003etok\u002fs: 1,539,648\u003cbr\u003eGPU memory: 59.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,171\u003cbr\u003etok\u002fs: 1,429,878\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 11,079\u003cbr\u003etok\u002fs: 1,418,092\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,867\u003cbr\u003etok\u002fs: 1,391,030\u003cbr\u003eGPU memory: 55.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,723\u003cbr\u003etok\u002fs: 1,372,521\u003cbr\u003eGPU memory: 40.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,680\u003cbr\u003etok\u002fs: 1,367,013\u003cbr\u003eGPU memory: 30.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,600\u003cbr\u003etok\u002fs: 1,356,851\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,431\u003cbr\u003etok\u002fs: 1,335,118\u003cbr\u003eGPU memory: 45.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,180\u003cbr\u003etok\u002fs: 1,303,082\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,116\u003cbr\u003etok\u002fs: 1,294,796\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,012\u003cbr\u003etok\u002fs: 1,281,487\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,911\u003cbr\u003etok\u002fs: 1,268,618\u003cbr\u003eGPU memory: 47.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,785\u003cbr\u003etok\u002fs: 1,252,444\u003cbr\u003eGPU memory: 19.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,731\u003cbr\u003etok\u002fs: 1,245,628\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,627\u003cbr\u003etok\u002fs: 1,232,264\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,588\u003cbr\u003etok\u002fs: 1,227,251\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,570\u003cbr\u003etok\u002fs: 1,224,934\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,504\u003cbr\u003etok\u002fs: 1,216,552\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,351\u003cbr\u003etok\u002fs: 1,196,989\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,991\u003cbr\u003etok\u002fs: 1,150,880\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,881\u003cbr\u003etok\u002fs: 1,136,823\u003cbr\u003eGPU memory: 25.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,812\u003cbr\u003etok\u002fs: 1,127,924\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,798\u003cbr\u003etok\u002fs: 1,126,121\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,272\u003cbr\u003etok\u002fs: 1,058,765\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,201\u003cbr\u003etok\u002fs: 1,049,789\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,923\u003cbr\u003etok\u002fs: 1,014,111\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,666\u003cbr\u003etok\u002fs: 981,212\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,550\u003cbr\u003etok\u002fs: 966,399\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,367\u003cbr\u003etok\u002fs: 942,935\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,242\u003cbr\u003etok\u002fs: 926,988\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,203\u003cbr\u003etok\u002fs: 921,938\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,990\u003cbr\u003etok\u002fs: 894,761\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,973\u003cbr\u003etok\u002fs: 892,481\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,914\u003cbr\u003etok\u002fs: 884,943\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,768\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,754\u003cbr\u003etok\u002fs: 864,553\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,666\u003cbr\u003etok\u002fs: 853,201\u003cbr\u003eGPU memory: 24.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,631\u003cbr\u003etok\u002fs: 848,787\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,614\u003cbr\u003etok\u002fs: 846,609\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,497\u003cbr\u003etok\u002fs: 831,587\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,376\u003cbr\u003etok\u002fs: 816,069\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,301\u003cbr\u003etok\u002fs: 806,509\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,222\u003cbr\u003etok\u002fs: 796,468\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,189\u003cbr\u003etok\u002fs: 792,242\u003cbr\u003eGPU memory: 43.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,150\u003cbr\u003etok\u002fs: 787,155\u003cbr\u003eGPU memory: 43.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,603\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,930\u003cbr\u003etok\u002fs: 759,077\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,913\u003cbr\u003etok\u002fs: 756,805\u003cbr\u003eGPU memory: 47.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,853\u003cbr\u003etok\u002fs: 749,152\u003cbr\u003eGPU memory: 38.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 717,893\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 714,176\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,706\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,521\u003cbr\u003etok\u002fs: 706,633\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,396\u003cbr\u003etok\u002fs: 690,683\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,384\u003cbr\u003etok\u002fs: 689,146\u003cbr\u003eGPU memory: 52.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,120\u003cbr\u003etok\u002fs: 655,347\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,989\u003cbr\u003etok\u002fs: 638,564\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,957\u003cbr\u003etok\u002fs: 634,449\u003cbr\u003eGPU memory: 26.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,857\u003cbr\u003etok\u002fs: 621,647\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,832\u003cbr\u003etok\u002fs: 618,554\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,505\u003cbr\u003etok\u002fs: 576,600\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,488\u003cbr\u003etok\u002fs: 574,493\u003cbr\u003eGPU memory: 23.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,384\u003cbr\u003etok\u002fs: 561,132\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,303\u003cbr\u003etok\u002fs: 550,785\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,229\u003cbr\u003etok\u002fs: 541,372\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,028\u003cbr\u003etok\u002fs: 515,532\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,017\u003cbr\u003etok\u002fs: 514,213\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,849\u003cbr\u003etok\u002fs: 492,630\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,815\u003cbr\u003etok\u002fs: 488,383\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,782\u003cbr\u003etok\u002fs: 484,141\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,574\u003cbr\u003etok\u002fs: 457,443\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,559\u003cbr\u003etok\u002fs: 455,588\u003cbr\u003eGPU memory: 35.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,257\u003cbr\u003etok\u002fs: 416,951\u003cbr\u003eGPU memory: 51.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,060\u003cbr\u003etok\u002fs: 391,700\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,011\u003cbr\u003etok\u002fs: 385,436\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,759\u003cbr\u003etok\u002fs: 353,193\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,674\u003cbr\u003etok\u002fs: 342,211\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,559\u003cbr\u003etok\u002fs: 327,547\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,498\u003cbr\u003etok\u002fs: 319,736\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,459\u003cbr\u003etok\u002fs: 314,698\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,345\u003cbr\u003etok\u002fs: 300,198\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,306\u003cbr\u003etok\u002fs: 295,226\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,304\u003cbr\u003etok\u002fs: 294,934\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,280\u003cbr\u003etok\u002fs: 291,839\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,279\u003cbr\u003etok\u002fs: 291,663\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,997\u003cbr\u003etok\u002fs: 255,570\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,936\u003cbr\u003etok\u002fs: 247,816\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,233\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,457\u003cbr\u003etok\u002fs: 186,493\u003cbr\u003eGPU memory: 7.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 184,974\u003cbr\u003eGPU memory: 38.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,433\u003cbr\u003etok\u002fs: 183,447\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,421\u003cbr\u003etok\u002fs: 181,828\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,410\u003cbr\u003etok\u002fs: 180,497\u003cbr\u003eGPU memory: 21.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,391\u003cbr\u003etok\u002fs: 178,062\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,826\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,367\u003cbr\u003etok\u002fs: 174,990\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,349\u003cbr\u003etok\u002fs: 172,719\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,178\u003cbr\u003etok\u002fs: 150,746\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 146,157\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,128\u003cbr\u003etok\u002fs: 144,383\u003cbr\u003eGPU memory: 4.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,116\u003cbr\u003etok\u002fs: 142,871\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 913\u003cbr\u003etok\u002fs: 116,860\u003cbr\u003eGPU memory: 20.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 822\u003cbr\u003etok\u002fs: 105,213\u003cbr\u003eGPU memory: 37.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 100,128\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 731\u003cbr\u003etok\u002fs: 93,508\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 86,831\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,694\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 656\u003cbr\u003etok\u002fs: 83,972\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 649\u003cbr\u003etok\u002fs: 83,099\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 610\u003cbr\u003etok\u002fs: 78,080\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 75,005\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 562\u003cbr\u003etok\u002fs: 71,978\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 486\u003cbr\u003etok\u002fs: 62,234\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 472\u003cbr\u003etok\u002fs: 60,412\u003cbr\u003eGPU memory: 20.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 54,312\u003cbr\u003eGPU memory: 22.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 382\u003cbr\u003etok\u002fs: 48,910\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 378\u003cbr\u003etok\u002fs: 48,447\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 43,894\u003cbr\u003eGPU memory: 3.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 340\u003cbr\u003etok\u002fs: 43,576\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 297\u003cbr\u003etok\u002fs: 38,042\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,670\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 293\u003cbr\u003etok\u002fs: 37,540\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 34,372\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,822\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 244\u003cbr\u003etok\u002fs: 31,228\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 26,957\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,687\u003cbr\u003eGPU memory: 17.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 22,260\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 168\u003cbr\u003etok\u002fs: 21,484\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 20,763\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 17,341\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 124\u003cbr\u003etok\u002fs: 15,832\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 109\u003cbr\u003etok\u002fs: 13,983\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 108\u003cbr\u003etok\u002fs: 13,832\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,027\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,932\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 12,888\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,056\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 68\u003cbr\u003etok\u002fs: 8,682\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 53\u003cbr\u003etok\u002fs: 6,728\u003cbr\u003eGPU memory: 6.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 50\u003cbr\u003etok\u002fs: 6,461\u003cbr\u003eGPU memory: 4.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 5,393\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 4,279\u003cbr\u003eGPU memory: 1.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 4,027\u003cbr\u003eGPU memory: 2.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,172\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.2664999999999999,0.24049999999999988,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.5734243718085975,0.5589017651346728,0.5046782192505559,0.49340754768236333,0.4533671939949587,0.4199468113794723,0.41601826934535246,0.4018389656942058,0.4017139767296021,0.3980415231962923,0.3887806741789264,0.37315372056441476,0.39311120297039653,0.3420881300420611,0.35895091284657527,0.3145538943996424,0.3094043490579723,0.30654015749576613,0.3255698708578853,0.29075210699354315,0.31759597080011137,0.3089591010398702,0.2781647111522198,0.302838959241061,0.2685676021040352,0.28249084231244326,0.26282152356403754,0.2542820598206877,0.25170810582433195,0.2501276932002686,0.24932165841049211,0.24124061173413763,0.21671949330618173,0.23018320245414464,0.21256610672412002,0.21232502683231377,0.18833726041033605,0.1900452268312179,0.1733813586591187,0.1750873153623291,0.15882112998769857,0.15555212167823632,0.14862453572335232,0.13175170084846502,0.14186577572629888,0.14061471719684968,0.13684814828117955,0.13645913300121942,0.13624605733926942,0.13498830214615898,0.13161683638650462,0.13012591554046035,0.12620106184734164,0.12486477305311248,0.12177639353004886,0.118340396284204,0.11365151414609322,0.10261378663784716,0.10151353788644238,0.10954645932172541,0.10087610624317779,0.07853542748152484,0.07020322017946197,0.07549696854211806,0.07312574081841755,0.07311417385391168,0.07067476191838716,0.06992169165029537,0.06974149051904624,0.06970131053707852,0.06952354455625168,0.061024829279585274,0.06005988439791298,0.047355152686975426,0.04021867127690586,0.04337185538372188,0.0426120884519688,0.04233204615340595,0.037615768573044474,0.037514709830519626,0.03741365108799477,0.03731502749589222,0.036684932324125834,0.03643654698105271,0.036220427381074866,0.035677997624510766,0.02754459521407712,0.024534749292132216,0.02370740693616071,0.023431626150836875,0.020474135962971107,0.019185941389582063,0.018957037249887225,0.014610902533713138,0.014349123863317445,0.01174168654865522,0.009976811280103788,0.009892798590534936,0.009778346520687518,0.009661459300417811,0.009288272498202556,0.007659156865693541,0.00737667941670842,0.006149972391482089,0.003977818214803402,0.003954075498186117,0.0027681572425330685,0.00204187362908641,0.0020266539389471247,0.001044070743554917],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,14.746738935631216,13.8011295658534,13.604579294844783,12.906311909363481,12.323490804113325,12.254980600723659,12.007706429128461,12.005526735157495,11.94148248252612,11.779981690570644,11.507461819027274,11.255508571041071,10.965706148190128,10.711921957268311,10.485534097679352,10.395730706075534,10.345781807789741,10.18073538030816,10.070452552906016,10.053848128611632,9.916411158095626,9.839618117616286,9.819022431472844,9.672643871911495,9.495226470203583,9.182232103501558,9.046345137587128,9.005386265990477,8.980237441329905,8.967411153251861,8.8388188964936,8.770570256380449,8.662864311628425,8.382526604375858,8.378690342986957,8.284430688153606,8.02415585296269,8.023613351352136,7.786133271333149,7.763231953344862,7.706356471995777,7.365035771199946,7.297629946088902,7.25748482690808,7.2375769553065865,7.177640214869388,7.171449883991843,7.1680592489258945,7.148044814508043,7.094395280235988,7.070670522303113,7.008215024388354,6.986950898760481,6.937806065361757,6.883129653041157,6.808516306532785,6.785314675152942,6.766172118323476,6.74319330010511,6.605223515507312,6.2497202726070595,6.221423001099534,6.201369816566643,6.163636892047023,6.163452829000586,6.1246349012598635,6.112651428183927,6.1097839196710115,6.109144542772862,6.106315784374985,6.061733777022151,6.044945289681329,5.75355411211377,5.701377082213213,5.690168611438065,5.678078575545771,5.6736223123162395,5.598573027013674,5.5969648972395385,5.595356767465404,5.593787387806308,5.583760795539861,5.579808283805843,5.576369211096096,5.567737622971068,5.438312238739459,5.390417096550755,5.377251744966118,5.372863294437906,5.325801279722549,5.305302468866705,5.301659958053,5.232500690236424,5.228335052869689,5.186843367191246,5.158759221316438,5.157422342347579,5.1556010869407265,5.153741081418835,5.147802626289047,5.1218787993276855,5.117383785983114,5.097863415532015,5.063298312916866,5.062920499295232,5.044049193271043,5.03249197146054,5.032249783241544,5.016614111823144],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,323\u003cbr\u003etok\u002fs: 2,642,573\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,061\u003cbr\u003etok\u002fs: 2,575,647\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,085\u003cbr\u003etok\u002fs: 2,325,763\u003cbr\u003eGPU memory: 55.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,882\u003cbr\u003etok\u002fs: 2,273,823\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,161\u003cbr\u003etok\u002fs: 2,089,300\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,560\u003cbr\u003etok\u002fs: 1,935,286\u003cbr\u003eGPU memory: 26.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,489\u003cbr\u003etok\u002fs: 1,917,181\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,234\u003cbr\u003etok\u002fs: 1,851,837\u003cbr\u003eGPU memory: 32.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,231\u003cbr\u003etok\u002fs: 1,851,261\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,165\u003cbr\u003etok\u002fs: 1,834,337\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,999\u003cbr\u003etok\u002fs: 1,791,660\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,717\u003cbr\u003etok\u002fs: 1,719,644\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,457\u003cbr\u003etok\u002fs: 1,653,064\u003cbr\u003eGPU memory: 23.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,158\u003cbr\u003etok\u002fs: 1,576,481\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,896\u003cbr\u003etok\u002fs: 1,509,417\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,662\u003cbr\u003etok\u002fs: 1,449,592\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,570\u003cbr\u003etok\u002fs: 1,425,861\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,518\u003cbr\u003etok\u002fs: 1,412,662\u003cbr\u003eGPU memory: 45.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,348\u003cbr\u003etok\u002fs: 1,369,047\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,234\u003cbr\u003etok\u002fs: 1,339,904\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,217\u003cbr\u003etok\u002fs: 1,335,516\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,075\u003cbr\u003etok\u002fs: 1,299,197\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,996\u003cbr\u003etok\u002fs: 1,278,904\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,974\u003cbr\u003etok\u002fs: 1,273,462\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,823\u003cbr\u003etok\u002fs: 1,234,780\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,640\u003cbr\u003etok\u002fs: 1,187,896\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,317\u003cbr\u003etok\u002fs: 1,105,185\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,177\u003cbr\u003etok\u002fs: 1,069,276\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,135\u003cbr\u003etok\u002fs: 1,058,452\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,807\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,095\u003cbr\u003etok\u002fs: 1,048,417\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,963\u003cbr\u003etok\u002fs: 1,014,436\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,892\u003cbr\u003etok\u002fs: 996,401\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,781\u003cbr\u003etok\u002fs: 967,939\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,492\u003cbr\u003etok\u002fs: 893,857\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,488\u003cbr\u003etok\u002fs: 892,844\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,390\u003cbr\u003etok\u002fs: 867,935\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,122\u003cbr\u003etok\u002fs: 799,155\u003cbr\u003eGPU memory: 30.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,121\u003cbr\u003etok\u002fs: 799,012\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,876\u003cbr\u003etok\u002fs: 736,256\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,852\u003cbr\u003etok\u002fs: 730,204\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,794\u003cbr\u003etok\u002fs: 715,174\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,441\u003cbr\u003etok\u002fs: 624,978\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,372\u003cbr\u003etok\u002fs: 607,165\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,330\u003cbr\u003etok\u002fs: 596,557\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,310\u003cbr\u003etok\u002fs: 591,296\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,248\u003cbr\u003etok\u002fs: 575,457\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,241\u003cbr\u003etok\u002fs: 573,821\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,238\u003cbr\u003etok\u002fs: 572,925\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,217\u003cbr\u003etok\u002fs: 567,636\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 553,459\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 547,190\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,073\u003cbr\u003etok\u002fs: 530,685\u003cbr\u003eGPU memory: 30.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,051\u003cbr\u003etok\u002fs: 525,066\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,000\u003cbr\u003etok\u002fs: 512,079\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,944\u003cbr\u003etok\u002fs: 497,631\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,867\u003cbr\u003etok\u002fs: 477,914\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,843\u003cbr\u003etok\u002fs: 471,782\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,823\u003cbr\u003etok\u002fs: 466,724\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,799\u003cbr\u003etok\u002fs: 460,652\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,657\u003cbr\u003etok\u002fs: 424,192\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,290\u003cbr\u003etok\u002fs: 330,248\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,261\u003cbr\u003etok\u002fs: 322,770\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,240\u003cbr\u003etok\u002fs: 317,471\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,500\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,451\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 297,193\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,149\u003cbr\u003etok\u002fs: 294,026\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,146\u003cbr\u003etok\u002fs: 293,268\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,145\u003cbr\u003etok\u002fs: 293,100\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,352\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,096\u003cbr\u003etok\u002fs: 280,571\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,079\u003cbr\u003etok\u002fs: 276,134\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 778\u003cbr\u003etok\u002fs: 199,132\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 724\u003cbr\u003etok\u002fs: 185,344\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 712\u003cbr\u003etok\u002fs: 182,382\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 179,187\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 695\u003cbr\u003etok\u002fs: 178,010\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 618\u003cbr\u003etok\u002fs: 158,177\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 157,752\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,327\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 613\u003cbr\u003etok\u002fs: 156,913\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 603\u003cbr\u003etok\u002fs: 154,263\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 599\u003cbr\u003etok\u002fs: 153,219\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 595\u003cbr\u003etok\u002fs: 152,310\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 150,029\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 115,827\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 403\u003cbr\u003etok\u002fs: 103,171\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 389\u003cbr\u003etok\u002fs: 99,692\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 385\u003cbr\u003etok\u002fs: 98,532\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 336\u003cbr\u003etok\u002fs: 86,095\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 315\u003cbr\u003etok\u002fs: 80,678\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 79,716\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 61,440\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,339\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 193\u003cbr\u003etok\u002fs: 49,375\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 41,953\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 41,600\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 41,119\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 40,627\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,058\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 126\u003cbr\u003etok\u002fs: 32,207\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 31,020\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 25,861\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,727\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,627\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,640\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 8,586\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 8,522\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 4,390\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,323\u003cbr\u003etok\u002fs: 2,642,573\u003cbr\u003eGPU memory: 39.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10,061\u003cbr\u003etok\u002fs: 2,575,647\u003cbr\u003eGPU memory: 34.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 9,085\u003cbr\u003etok\u002fs: 2,325,763\u003cbr\u003eGPU memory: 55.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,882\u003cbr\u003etok\u002fs: 2,273,823\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 8,161\u003cbr\u003etok\u002fs: 2,089,300\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,560\u003cbr\u003etok\u002fs: 1,935,286\u003cbr\u003eGPU memory: 26.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,489\u003cbr\u003etok\u002fs: 1,917,181\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,234\u003cbr\u003etok\u002fs: 1,851,837\u003cbr\u003eGPU memory: 32.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,231\u003cbr\u003etok\u002fs: 1,851,261\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,165\u003cbr\u003etok\u002fs: 1,834,337\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,999\u003cbr\u003etok\u002fs: 1,791,660\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,717\u003cbr\u003etok\u002fs: 1,719,644\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,457\u003cbr\u003etok\u002fs: 1,653,064\u003cbr\u003eGPU memory: 23.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,158\u003cbr\u003etok\u002fs: 1,576,481\u003cbr\u003eGPU memory: 15.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,896\u003cbr\u003etok\u002fs: 1,509,417\u003cbr\u003eGPU memory: 22.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,662\u003cbr\u003etok\u002fs: 1,449,592\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,570\u003cbr\u003etok\u002fs: 1,425,861\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,518\u003cbr\u003etok\u002fs: 1,412,662\u003cbr\u003eGPU memory: 45.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,348\u003cbr\u003etok\u002fs: 1,369,047\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,234\u003cbr\u003etok\u002fs: 1,339,904\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,217\u003cbr\u003etok\u002fs: 1,335,516\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,075\u003cbr\u003etok\u002fs: 1,299,197\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,996\u003cbr\u003etok\u002fs: 1,278,904\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,974\u003cbr\u003etok\u002fs: 1,273,462\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,823\u003cbr\u003etok\u002fs: 1,234,780\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,640\u003cbr\u003etok\u002fs: 1,187,896\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,317\u003cbr\u003etok\u002fs: 1,105,185\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,177\u003cbr\u003etok\u002fs: 1,069,276\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,135\u003cbr\u003etok\u002fs: 1,058,452\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,807\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,095\u003cbr\u003etok\u002fs: 1,048,417\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,963\u003cbr\u003etok\u002fs: 1,014,436\u003cbr\u003eGPU memory: 27.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,892\u003cbr\u003etok\u002fs: 996,401\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,781\u003cbr\u003etok\u002fs: 967,939\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,492\u003cbr\u003etok\u002fs: 893,857\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,488\u003cbr\u003etok\u002fs: 892,844\u003cbr\u003eGPU memory: 12.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,390\u003cbr\u003etok\u002fs: 867,935\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,122\u003cbr\u003etok\u002fs: 799,155\u003cbr\u003eGPU memory: 30.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,121\u003cbr\u003etok\u002fs: 799,012\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,876\u003cbr\u003etok\u002fs: 736,256\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,852\u003cbr\u003etok\u002fs: 730,204\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,794\u003cbr\u003etok\u002fs: 715,174\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,441\u003cbr\u003etok\u002fs: 624,978\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,372\u003cbr\u003etok\u002fs: 607,165\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,330\u003cbr\u003etok\u002fs: 596,557\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,310\u003cbr\u003etok\u002fs: 591,296\u003cbr\u003eGPU memory: 33.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,248\u003cbr\u003etok\u002fs: 575,457\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,241\u003cbr\u003etok\u002fs: 573,821\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,238\u003cbr\u003etok\u002fs: 572,925\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,217\u003cbr\u003etok\u002fs: 567,636\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,162\u003cbr\u003etok\u002fs: 553,459\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 547,190\u003cbr\u003eGPU memory: 21.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,073\u003cbr\u003etok\u002fs: 530,685\u003cbr\u003eGPU memory: 30.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,051\u003cbr\u003etok\u002fs: 525,066\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,000\u003cbr\u003etok\u002fs: 512,079\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,944\u003cbr\u003etok\u002fs: 497,631\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,867\u003cbr\u003etok\u002fs: 477,914\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,843\u003cbr\u003etok\u002fs: 471,782\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,823\u003cbr\u003etok\u002fs: 466,724\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,799\u003cbr\u003etok\u002fs: 460,652\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,657\u003cbr\u003etok\u002fs: 424,192\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,290\u003cbr\u003etok\u002fs: 330,248\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,261\u003cbr\u003etok\u002fs: 322,770\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,240\u003cbr\u003etok\u002fs: 317,471\u003cbr\u003eGPU memory: 7.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,500\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,201\u003cbr\u003etok\u002fs: 307,451\u003cbr\u003eGPU memory: 12.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,161\u003cbr\u003etok\u002fs: 297,193\u003cbr\u003eGPU memory: 7.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,149\u003cbr\u003etok\u002fs: 294,026\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,146\u003cbr\u003etok\u002fs: 293,268\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,145\u003cbr\u003etok\u002fs: 293,100\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,142\u003cbr\u003etok\u002fs: 292,352\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,096\u003cbr\u003etok\u002fs: 280,571\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,079\u003cbr\u003etok\u002fs: 276,134\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 778\u003cbr\u003etok\u002fs: 199,132\u003cbr\u003eGPU memory: 19.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 724\u003cbr\u003etok\u002fs: 185,344\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 712\u003cbr\u003etok\u002fs: 182,382\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 179,187\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 695\u003cbr\u003etok\u002fs: 178,010\u003cbr\u003eGPU memory: 20.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 618\u003cbr\u003etok\u002fs: 158,177\u003cbr\u003eGPU memory: 4.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 157,752\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,327\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 613\u003cbr\u003etok\u002fs: 156,913\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 603\u003cbr\u003etok\u002fs: 154,263\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 599\u003cbr\u003etok\u002fs: 153,219\u003cbr\u003eGPU memory: 4.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 595\u003cbr\u003etok\u002fs: 152,310\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 150,029\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 115,827\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 403\u003cbr\u003etok\u002fs: 103,171\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 389\u003cbr\u003etok\u002fs: 99,692\u003cbr\u003eGPU memory: 11.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 385\u003cbr\u003etok\u002fs: 98,532\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 336\u003cbr\u003etok\u002fs: 86,095\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 315\u003cbr\u003etok\u002fs: 80,678\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 79,716\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 61,440\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,339\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 193\u003cbr\u003etok\u002fs: 49,375\u003cbr\u003eGPU memory: 12.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 41,953\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 162\u003cbr\u003etok\u002fs: 41,600\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 41,119\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 40,627\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,058\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 126\u003cbr\u003etok\u002fs: 32,207\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 31,020\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 101\u003cbr\u003etok\u002fs: 25,861\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,727\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 65\u003cbr\u003etok\u002fs: 16,627\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,640\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 34\u003cbr\u003etok\u002fs: 8,586\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 33\u003cbr\u003etok\u002fs: 8,522\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 4,390\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826],"y":[0.07749999999999983,0.07749999999999983,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.22471738170763667,0.09398503530382803,0.09220819520755746,0.09150216513833617,0.09931152209685935,0.09572332794962161,0.08387981639225074,0.09093825736983058,0.08201708379778758,0.06646913137621781,0.06242742371520706,0.06477134850716149,0.058921772835225046,0.05747574752783729,0.061676272320436584,0.052662017086335305,0.055837390395401476,0.05246409827293045,0.04524489417350039,0.04491030543626263,0.037734446167094766,0.03758162422877798,0.03681582165932368,0.03218493613869298,0.031837613034703255,0.034433026971117296,0.0343733657857713,0.02937962826647786,0.026865335023547057,0.028865055530561453,0.0251475883645978,0.023840122634175273,0.022175088532937544,0.01975492178698887,0.021584564555533307,0.02029697876974983,0.019868392295427584,0.01757279888377262,0.015546581674075265,0.01660102921632598,0.015091114326580774,0.015239780130268376,0.013370193393558664,0.01298909235247098,0.01167532869964794,0.01045180633229708,0.010791977883963865,0.010757276990446296,0.010453491975266177,0.009540871637308107,0.009799045299276945,0.008942861941453488,0.009741819264353234,0.009156774375399137,0.00877019424586131,0.007354763062907849,0.007312756718123425,0.006936525977880311,0.005824879810106972,0.005575276891822704,0.005517442069293423,0.005232529469886017,0.004947008082873039,0.0049025665876663285,0.004814901172464049,0.00476193665077934,0.004690708500927487,0.0044380616446153655,0.004244467186043667,0.0037665689156701327,0.0034146896796498744,0.0029647956391326237,0.0027918999591503525,0.002722498172115214,0.002664663349585932,0.002569083695511226,0.002467416165380805,0.00230608744990439,0.0019742982048679865,0.0017947058612244292,0.0014781363063273109,0.0013941236167584602,0.0013801215018303201,0.0012011379457923326,0.0010434619559493454,0.0007305451266856552,0.0006130491188103793],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[12.837733893272496,8.278027231643344,8.208548275377693,8.18398070244271,8.160653133188989,8.046456544167865,7.925575560302445,7.894168592063008,7.610246499169294,7.3183225075199445,7.17227332393643,7.061389869751176,7.050287961792387,6.999970937413721,6.962887077321011,6.8367554528677505,6.777060900649549,6.66970370693288,6.57805968486469,6.5627340143666055,6.316108907198318,6.307719507292288,6.1716872284464595,6.122552082576496,6.107846413919042,6.0958532533143455,6.093954497677415,6.0247080421020005,5.934827150268102,5.918648977239151,5.875055097819821,5.758727252471531,5.705736470155146,5.687407665741508,5.686942664361035,5.645964417706865,5.632324377212995,5.6114768153217955,5.5409709810076,5.5283384435047545,5.5251221839564835,5.4850158148907004,5.425515013247695,5.413386227240363,5.371574853112845,5.363689204702326,5.343461644651757,5.342357266373135,5.332689112670804,5.3319916106000935,5.311860925837124,5.311182798823934,5.310039670430272,5.291420240153838,5.279117078628827,5.23407006989552,5.232733190926661,5.220759405379485,5.185380550348508,5.177436776765431,5.175596146301059,5.166528619381839,5.157441717405098,5.15602733820616,5.153237329923323,5.151551699919109,5.149284818189304,5.141244169318628,5.135082901027363,5.119873480874396,5.108674697628008,5.094356530120949,5.088854013785354,5.086645257228107,5.084804626763736,5.081762742733143,5.078527108127353,5.073392717884631,5.0628333115363935,5.057117669568082,5.047042639657836,5.044368881720118,5.043923255397164,5.038226988486372,5.033208848588769,5.023250069023643,5.0195106829223395],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,045\u003cbr\u003etok\u002fs: 2,071,178\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,692\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,656\u003cbr\u003etok\u002fs: 847,882\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,643\u003cbr\u003etok\u002fs: 841,390\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,631\u003cbr\u003etok\u002fs: 835,226\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,572\u003cbr\u003etok\u002fs: 805,048\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,510\u003cbr\u003etok\u002fs: 773,105\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,494\u003cbr\u003etok\u002fs: 764,805\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,347\u003cbr\u003etok\u002fs: 689,777\u003cbr\u003eGPU memory: 11.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,197\u003cbr\u003etok\u002fs: 612,634\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,121\u003cbr\u003etok\u002fs: 574,039\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,064\u003cbr\u003etok\u002fs: 544,737\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,058\u003cbr\u003etok\u002fs: 541,804\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 528,507\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,013\u003cbr\u003etok\u002fs: 518,707\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 948\u003cbr\u003etok\u002fs: 485,376\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 917\u003cbr\u003etok\u002fs: 469,601\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 862\u003cbr\u003etok\u002fs: 441,231\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 814\u003cbr\u003etok\u002fs: 417,014\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 412,964\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 679\u003cbr\u003etok\u002fs: 347,791\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,574\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 605\u003cbr\u003etok\u002fs: 309,627\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,643\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 572\u003cbr\u003etok\u002fs: 292,756\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 566\u003cbr\u003etok\u002fs: 289,587\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 289,085\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 270,787\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 482\u003cbr\u003etok\u002fs: 247,035\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 474\u003cbr\u003etok\u002fs: 242,760\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 231,240\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,499\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 364\u003cbr\u003etok\u002fs: 186,496\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,652\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,530\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 333\u003cbr\u003etok\u002fs: 170,701\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 167,096\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 316\u003cbr\u003etok\u002fs: 161,587\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 279\u003cbr\u003etok\u002fs: 142,956\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 273\u003cbr\u003etok\u002fs: 139,617\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 271\u003cbr\u003etok\u002fs: 138,767\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 128,169\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 112,445\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 213\u003cbr\u003etok\u002fs: 109,240\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 98,191\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 188\u003cbr\u003etok\u002fs: 96,108\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,762\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,470\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 172\u003cbr\u003etok\u002fs: 87,916\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 87,731\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,412\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,232\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 81,930\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 150\u003cbr\u003etok\u002fs: 77,010\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 144\u003cbr\u003etok\u002fs: 73,759\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 61,855\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,501\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 58,337\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,988\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,889\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,403\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 86\u003cbr\u003etok\u002fs: 44,006\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,605\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,231\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,494\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 40,049\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 39,450\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 73\u003cbr\u003etok\u002fs: 37,325\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 35,697\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 31,677\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 56\u003cbr\u003etok\u002fs: 28,718\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 24,934\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 23,480\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 22,897\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,410\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,606\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 20,751\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,395\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,604\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 15,094\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,431\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,725\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,607\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,102\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,776\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,144\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,156\u003cbr\u003eGPU memory: 1.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,045\u003cbr\u003etok\u002fs: 2,071,178\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,692\u003cbr\u003etok\u002fs: 866,243\u003cbr\u003eGPU memory: 22.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,656\u003cbr\u003etok\u002fs: 847,882\u003cbr\u003eGPU memory: 29.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,643\u003cbr\u003etok\u002fs: 841,390\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,631\u003cbr\u003etok\u002fs: 835,226\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,572\u003cbr\u003etok\u002fs: 805,048\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,510\u003cbr\u003etok\u002fs: 773,105\u003cbr\u003eGPU memory: 13.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,494\u003cbr\u003etok\u002fs: 764,805\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,347\u003cbr\u003etok\u002fs: 689,777\u003cbr\u003eGPU memory: 11.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,197\u003cbr\u003etok\u002fs: 612,634\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,121\u003cbr\u003etok\u002fs: 574,039\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,064\u003cbr\u003etok\u002fs: 544,737\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,058\u003cbr\u003etok\u002fs: 541,804\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,032\u003cbr\u003etok\u002fs: 528,507\u003cbr\u003eGPU memory: 14.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,013\u003cbr\u003etok\u002fs: 518,707\u003cbr\u003eGPU memory: 12.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 948\u003cbr\u003etok\u002fs: 485,376\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 917\u003cbr\u003etok\u002fs: 469,601\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 862\u003cbr\u003etok\u002fs: 441,231\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 814\u003cbr\u003etok\u002fs: 417,014\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 807\u003cbr\u003etok\u002fs: 412,964\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 679\u003cbr\u003etok\u002fs: 347,791\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,574\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 605\u003cbr\u003etok\u002fs: 309,627\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,643\u003cbr\u003eGPU memory: 21.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 572\u003cbr\u003etok\u002fs: 292,756\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 566\u003cbr\u003etok\u002fs: 289,587\u003cbr\u003eGPU memory: 9.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 289,085\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 270,787\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 482\u003cbr\u003etok\u002fs: 247,035\u003cbr\u003eGPU memory: 4.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 474\u003cbr\u003etok\u002fs: 242,760\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 452\u003cbr\u003etok\u002fs: 231,240\u003cbr\u003eGPU memory: 6.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 392\u003cbr\u003etok\u002fs: 200,499\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 364\u003cbr\u003etok\u002fs: 186,496\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,652\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 355\u003cbr\u003etok\u002fs: 181,530\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 333\u003cbr\u003etok\u002fs: 170,701\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 167,096\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 316\u003cbr\u003etok\u002fs: 161,587\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 279\u003cbr\u003etok\u002fs: 142,956\u003cbr\u003eGPU memory: 2.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 273\u003cbr\u003etok\u002fs: 139,617\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 271\u003cbr\u003etok\u002fs: 138,767\u003cbr\u003eGPU memory: 4.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 128,169\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 220\u003cbr\u003etok\u002fs: 112,445\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 213\u003cbr\u003etok\u002fs: 109,240\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 98,191\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 188\u003cbr\u003etok\u002fs: 96,108\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,762\u003cbr\u003eGPU memory: 3.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 177\u003cbr\u003etok\u002fs: 90,470\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 172\u003cbr\u003etok\u002fs: 87,916\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 171\u003cbr\u003etok\u002fs: 87,731\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,412\u003cbr\u003eGPU memory: 10.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,232\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 81,930\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 150\u003cbr\u003etok\u002fs: 77,010\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 144\u003cbr\u003etok\u002fs: 73,759\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 121\u003cbr\u003etok\u002fs: 61,855\u003cbr\u003eGPU memory: 5.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,501\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 58,337\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 48,988\u003cbr\u003eGPU memory: 6.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,889\u003cbr\u003eGPU memory: 3.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 46,403\u003cbr\u003eGPU memory: 5.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 86\u003cbr\u003etok\u002fs: 44,006\u003cbr\u003eGPU memory: 2.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,605\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 41,231\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,494\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 40,049\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 77\u003cbr\u003etok\u002fs: 39,450\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 73\u003cbr\u003etok\u002fs: 37,325\u003cbr\u003eGPU memory: 10.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 35,697\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 31,677\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 56\u003cbr\u003etok\u002fs: 28,718\u003cbr\u003eGPU memory: 2.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 24,934\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 23,480\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 22,897\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,410\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,606\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 20,751\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,395\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,604\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 15,094\u003cbr\u003eGPU memory: 1.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,431\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,725\u003cbr\u003eGPU memory: 3.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,607\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,102\u003cbr\u003eGPU memory: 1.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,776\u003cbr\u003eGPU memory: 1.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,144\u003cbr\u003eGPU memory: 1.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,156\u003cbr\u003eGPU memory: 1.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058],"y":[-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x2","yaxis":"y2"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[1.0,0.9517117847128189,0.9350723950059174,0.907176594769221,0.9017429710739835,0.9000343849623098,0.8914927871544179,0.8353186872940899,0.8313924043884808,0.7874889381710399,0.7840997537077119,0.48194389653591496],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.378122429891471,5.3598635725919594,5.353571846124074,5.343023818354808,5.340969243360049,5.340323188627824,5.337093418909548,5.315852731773395,5.314368116140685,5.2977672308138875,5.296485704149264,5.182233797229523],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,503\u003cbr\u003etok\u002fs: 60,026\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,141\u003cbr\u003etok\u002fs: 57,128\u003cbr\u003eGPU memory: 65.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,016\u003cbr\u003etok\u002fs: 56,129\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,807\u003cbr\u003etok\u002fs: 54,454\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,766\u003cbr\u003etok\u002fs: 54,128\u003cbr\u003eGPU memory: 63.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,753\u003cbr\u003etok\u002fs: 54,026\u003cbr\u003eGPU memory: 53.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,689\u003cbr\u003etok\u002fs: 53,513\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,268\u003cbr\u003etok\u002fs: 50,141\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,238\u003cbr\u003etok\u002fs: 49,905\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,909\u003cbr\u003etok\u002fs: 47,270\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,883\u003cbr\u003etok\u002fs: 47,067\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,616\u003cbr\u003etok\u002fs: 28,929\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,752\u003cbr\u003etok\u002fs: 22,016\u003cbr\u003eGPU memory: 71.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 45.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,503\u003cbr\u003etok\u002fs: 60,026\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,141\u003cbr\u003etok\u002fs: 57,128\u003cbr\u003eGPU memory: 65.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,016\u003cbr\u003etok\u002fs: 56,129\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,807\u003cbr\u003etok\u002fs: 54,454\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,766\u003cbr\u003etok\u002fs: 54,128\u003cbr\u003eGPU memory: 63.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,753\u003cbr\u003etok\u002fs: 54,026\u003cbr\u003eGPU memory: 53.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,689\u003cbr\u003etok\u002fs: 53,513\u003cbr\u003eGPU memory: 40.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,268\u003cbr\u003etok\u002fs: 50,141\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,238\u003cbr\u003etok\u002fs: 49,905\u003cbr\u003eGPU memory: 36.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,909\u003cbr\u003etok\u002fs: 47,270\u003cbr\u003eGPU memory: 60.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,883\u003cbr\u003etok\u002fs: 47,067\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,616\u003cbr\u003etok\u002fs: 28,929\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,752\u003cbr\u003etok\u002fs: 22,016\u003cbr\u003eGPU memory: 71.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.9716377370963099,0.9715617703191137,0.9432861361964368,0.9375739676514806,0.9148119222526682,0.9102112676056339,0.8860338412001152,0.8798911942510477,0.8665783497350492,0.8633184420680025,0.8604490302907529,0.856761309720549,0.8551899969080189,0.8462565704598523,0.8282964250301202,0.8249059078163151,0.8072003177277137,0.7945898327131602,0.784934055506392,0.7436107942126644,0.7369537055794266,0.723135748632598,0.7138544743099018,0.5938416265953024,0.5888331503022678,0.47910513801963944,0.4597042893241357,0.3573423889285752,0.3032460470620848,0.2939594417374802,0.20024842468893603,0.12845982023861566,0.11935580172937703,0.0982263756650425,0.09325921463679884,0.0915706197822819],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.7347960442502135,5.734738594765445,5.713355291803067,5.70903549370273,5.691821813871733,5.688342592443276,5.670058538001323,5.665413192820629,5.655345422586315,5.652880134169744,5.6507101562625985,5.647921336537066,5.646733039299479,5.639977181467804,5.6263949138056155,5.623830852590669,5.610441091096741,5.600904476625114,5.593602344745287,5.562351840802438,5.557317451742433,5.546867692828692,5.539848776829917,5.449089677637838,5.445302043185887,5.3623207979229495,5.347649005821548,5.270238344809791,5.2293282643401975,5.222305316798632,5.151436841850639,5.097147078744094,5.090262211543113,5.074283191691797,5.070526801696473,5.069249810517489],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,648\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,638\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,078\u003cbr\u003etok\u002fs: 113,244\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,035\u003cbr\u003etok\u002fs: 112,558\u003cbr\u003eGPU memory: 62.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,864\u003cbr\u003etok\u002fs: 109,825\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,830\u003cbr\u003etok\u002fs: 109,273\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,648\u003cbr\u003etok\u002fs: 106,371\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,602\u003cbr\u003etok\u002fs: 105,633\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,502\u003cbr\u003etok\u002fs: 104,035\u003cbr\u003eGPU memory: 54.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,478\u003cbr\u003etok\u002fs: 103,644\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,456\u003cbr\u003etok\u002fs: 103,299\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,429\u003cbr\u003etok\u002fs: 102,856\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,417\u003cbr\u003etok\u002fs: 102,668\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,350\u003cbr\u003etok\u002fs: 101,595\u003cbr\u003eGPU memory: 57.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,215\u003cbr\u003etok\u002fs: 99,439\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,190\u003cbr\u003etok\u002fs: 99,032\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,057\u003cbr\u003etok\u002fs: 96,906\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,962\u003cbr\u003etok\u002fs: 95,392\u003cbr\u003eGPU memory: 36.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,890\u003cbr\u003etok\u002fs: 94,233\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 89,272\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,530\u003cbr\u003etok\u002fs: 88,473\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,426\u003cbr\u003etok\u002fs: 86,814\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,356\u003cbr\u003etok\u002fs: 85,700\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,456\u003cbr\u003etok\u002fs: 71,292\u003cbr\u003eGPU memory: 67.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,418\u003cbr\u003etok\u002fs: 70,691\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,595\u003cbr\u003etok\u002fs: 57,518\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,449\u003cbr\u003etok\u002fs: 55,189\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,681\u003cbr\u003etok\u002fs: 42,900\u003cbr\u003eGPU memory: 64.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,275\u003cbr\u003etok\u002fs: 36,405\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,206\u003cbr\u003etok\u002fs: 35,291\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,503\u003cbr\u003etok\u002fs: 24,040\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 964\u003cbr\u003etok\u002fs: 15,422\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 896\u003cbr\u003etok\u002fs: 14,329\u003cbr\u003eGPU memory: 50.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 737\u003cbr\u003etok\u002fs: 11,792\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 11,196\u003cbr\u003eGPU memory: 15.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 10,993\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,648\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,290\u003cbr\u003etok\u002fs: 116,638\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,078\u003cbr\u003etok\u002fs: 113,244\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 42.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,035\u003cbr\u003etok\u002fs: 112,558\u003cbr\u003eGPU memory: 62.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,864\u003cbr\u003etok\u002fs: 109,825\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,830\u003cbr\u003etok\u002fs: 109,273\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,648\u003cbr\u003etok\u002fs: 106,371\u003cbr\u003eGPU memory: 54.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,602\u003cbr\u003etok\u002fs: 105,633\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,502\u003cbr\u003etok\u002fs: 104,035\u003cbr\u003eGPU memory: 54.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,478\u003cbr\u003etok\u002fs: 103,644\u003cbr\u003eGPU memory: 47.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,456\u003cbr\u003etok\u002fs: 103,299\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,429\u003cbr\u003etok\u002fs: 102,856\u003cbr\u003eGPU memory: 42.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,417\u003cbr\u003etok\u002fs: 102,668\u003cbr\u003eGPU memory: 66.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,350\u003cbr\u003etok\u002fs: 101,595\u003cbr\u003eGPU memory: 57.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,215\u003cbr\u003etok\u002fs: 99,439\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,190\u003cbr\u003etok\u002fs: 99,032\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,057\u003cbr\u003etok\u002fs: 96,906\u003cbr\u003eGPU memory: 44.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,962\u003cbr\u003etok\u002fs: 95,392\u003cbr\u003eGPU memory: 36.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,890\u003cbr\u003etok\u002fs: 94,233\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,580\u003cbr\u003etok\u002fs: 89,272\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,530\u003cbr\u003etok\u002fs: 88,473\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,426\u003cbr\u003etok\u002fs: 86,814\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,356\u003cbr\u003etok\u002fs: 85,700\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,456\u003cbr\u003etok\u002fs: 71,292\u003cbr\u003eGPU memory: 67.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,418\u003cbr\u003etok\u002fs: 70,691\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,595\u003cbr\u003etok\u002fs: 57,518\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,449\u003cbr\u003etok\u002fs: 55,189\u003cbr\u003eGPU memory: 19.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,681\u003cbr\u003etok\u002fs: 42,900\u003cbr\u003eGPU memory: 64.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,275\u003cbr\u003etok\u002fs: 36,405\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,206\u003cbr\u003etok\u002fs: 35,291\u003cbr\u003eGPU memory: 20.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,503\u003cbr\u003etok\u002fs: 24,040\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 964\u003cbr\u003etok\u002fs: 15,422\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 896\u003cbr\u003etok\u002fs: 14,329\u003cbr\u003eGPU memory: 50.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 737\u003cbr\u003etok\u002fs: 11,792\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 700\u003cbr\u003etok\u002fs: 11,196\u003cbr\u003eGPU memory: 15.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 687\u003cbr\u003etok\u002fs: 10,993\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6514999999999999,0.6384999999999998,0.6384999999999998,0.6384999999999998,0.6384999999999998],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.9577198238636969,0.9221247241206514,0.9040619569041807,0.9004981821283493,0.8984364171402375,0.8795340171231782,0.8560296297086075,0.8400246292288173,0.8374031090403131,0.8359184250087962,0.8172146048128286,0.8020452388821956,0.7973179729398343,0.7882192854325042,0.7511288396541247,0.7453753558443775,0.7032537770148521,0.7023248499322964,0.688980019404847,0.6867849793690227,0.6624223006471837,0.6292967875382499,0.5672959025919332,0.5180427759593138,0.4740566792122912,0.4623311405145483,0.3541451205339532,0.34942851659540897,0.29814427823565165,0.2979736861745797,0.28711310253649075,0.2658085156800459,0.2530799863526351,0.1896197396338668,0.1811860946146219,0.16353514729558274,0.1266152935782751,0.12438293652909128,0.10394311911675397,0.08862524122783637,0.08676205606081608,0.08589710100116217,0.06147578125832969,0.05599284579543879,0.054595051706582,0.03733833736712479,0.03500791124385842,0.018462592359608065,0.013880596219253447],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[6.44854138781829,6.394704165390012,6.367384415668187,6.361994242956895,6.358875844608215,6.33028615890729,6.294736014578058,6.270528615890729,6.266563593555983,6.2643180242215095,6.236028688458499,6.213085178436084,6.205935237296608,6.192173565980229,6.136074648046314,6.127372562932383,6.063664107980842,6.06225911531825,6.042075196336134,6.038755220847914,6.001906919740046,5.9518049217074385,5.858029220622147,5.783534372933834,5.717005853800132,5.699271097063424,5.5356408540420246,5.5285070390737125,5.450940155778813,5.450682137040203,5.434255615939108,5.401628340133202,5.382780877586235,5.286797906822983,5.274042105432907,5.247345229072262,5.191504329876957,5.188127912789667,5.1570547967296125,5.134044766251149,5.131226717840383,5.12991848220477,5.092981487155504,5.084688603634839,5.082491412813855,5.056473851413459,5.052895857186628,5.027924481140443,5.020994259083066],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,186\u003cbr\u003etok\u002fs: 229,953\u003cbr\u003eGPU memory: 61.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,919\u003cbr\u003etok\u002fs: 221,407\u003cbr\u003eGPU memory: 61.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,783\u003cbr\u003etok\u002fs: 217,070\u003cbr\u003eGPU memory: 58.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,757\u003cbr\u003etok\u002fs: 216,214\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,741\u003cbr\u003etok\u002fs: 215,719\u003cbr\u003eGPU memory: 54.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,599\u003cbr\u003etok\u002fs: 211,180\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,423\u003cbr\u003etok\u002fs: 205,537\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,303\u003cbr\u003etok\u002fs: 201,694\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,283\u003cbr\u003etok\u002fs: 201,065\u003cbr\u003eGPU memory: 48.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,272\u003cbr\u003etok\u002fs: 200,708\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,132\u003cbr\u003etok\u002fs: 196,217\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,018\u003cbr\u003etok\u002fs: 192,575\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 191,440\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,914\u003cbr\u003etok\u002fs: 189,255\u003cbr\u003eGPU memory: 46.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,636\u003cbr\u003etok\u002fs: 180,350\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,593\u003cbr\u003etok\u002fs: 178,968\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,277\u003cbr\u003etok\u002fs: 168,855\u003cbr\u003eGPU memory: 29.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,270\u003cbr\u003etok\u002fs: 168,632\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,170\u003cbr\u003etok\u002fs: 165,428\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,153\u003cbr\u003etok\u002fs: 164,900\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,970\u003cbr\u003etok\u002fs: 159,051\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,722\u003cbr\u003etok\u002fs: 151,097\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,257\u003cbr\u003etok\u002fs: 136,211\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,887\u003cbr\u003etok\u002fs: 124,385\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,557\u003cbr\u003etok\u002fs: 113,823\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,469\u003cbr\u003etok\u002fs: 111,008\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,657\u003cbr\u003etok\u002fs: 85,032\u003cbr\u003eGPU memory: 36.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,622\u003cbr\u003etok\u002fs: 83,900\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,237\u003cbr\u003etok\u002fs: 71,586\u003cbr\u003eGPU memory: 37.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,236\u003cbr\u003etok\u002fs: 71,545\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 68,937\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,992\u003cbr\u003etok\u002fs: 63,758\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,960\u003cbr\u003etok\u002fs: 62,708\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 60,766\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,491\u003cbr\u003etok\u002fs: 47,711\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,423\u003cbr\u003etok\u002fs: 45,529\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 43,975\u003cbr\u003eGPU memory: 77.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,359\u003cbr\u003etok\u002fs: 43,504\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,227\u003cbr\u003etok\u002fs: 39,266\u003cbr\u003eGPU memory: 20.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,152\u003cbr\u003etok\u002fs: 36,849\u003cbr\u003eGPU memory: 76.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 950\u003cbr\u003etok\u002fs: 30,401\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 933\u003cbr\u003etok\u002fs: 29,865\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 812\u003cbr\u003etok\u002fs: 25,975\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 25,021\u003cbr\u003eGPU memory: 76.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 779\u003cbr\u003etok\u002fs: 24,932\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 21,279\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 651\u003cbr\u003etok\u002fs: 20,832\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 645\u003cbr\u003etok\u002fs: 20,624\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 461\u003cbr\u003etok\u002fs: 14,761\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 420\u003cbr\u003etok\u002fs: 13,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 409\u003cbr\u003etok\u002fs: 13,095\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 8,965\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 262\u003cbr\u003etok\u002fs: 8,397\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 4,433\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 3,333\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.11764705882352941,0.23529411764705882,0.35294117647058826,0.4117647058823529,0.5294117647058824,0.5882352941176471,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 43.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 7,186\u003cbr\u003etok\u002fs: 229,953\u003cbr\u003eGPU memory: 61.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 41.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,919\u003cbr\u003etok\u002fs: 221,407\u003cbr\u003eGPU memory: 61.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,783\u003cbr\u003etok\u002fs: 217,070\u003cbr\u003eGPU memory: 58.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,757\u003cbr\u003etok\u002fs: 216,214\u003cbr\u003eGPU memory: 62.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 40.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,741\u003cbr\u003etok\u002fs: 215,719\u003cbr\u003eGPU memory: 54.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,599\u003cbr\u003etok\u002fs: 211,180\u003cbr\u003eGPU memory: 50.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,423\u003cbr\u003etok\u002fs: 205,537\u003cbr\u003eGPU memory: 41.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,303\u003cbr\u003etok\u002fs: 201,694\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,283\u003cbr\u003etok\u002fs: 201,065\u003cbr\u003eGPU memory: 48.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,272\u003cbr\u003etok\u002fs: 200,708\u003cbr\u003eGPU memory: 33.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,132\u003cbr\u003etok\u002fs: 196,217\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,018\u003cbr\u003etok\u002fs: 192,575\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 191,440\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,914\u003cbr\u003etok\u002fs: 189,255\u003cbr\u003eGPU memory: 46.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,636\u003cbr\u003etok\u002fs: 180,350\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,593\u003cbr\u003etok\u002fs: 178,968\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,277\u003cbr\u003etok\u002fs: 168,855\u003cbr\u003eGPU memory: 29.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,270\u003cbr\u003etok\u002fs: 168,632\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,170\u003cbr\u003etok\u002fs: 165,428\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,153\u003cbr\u003etok\u002fs: 164,900\u003cbr\u003eGPU memory: 48.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,970\u003cbr\u003etok\u002fs: 159,051\u003cbr\u003eGPU memory: 46.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,722\u003cbr\u003etok\u002fs: 151,097\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,257\u003cbr\u003etok\u002fs: 136,211\u003cbr\u003eGPU memory: 27.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,887\u003cbr\u003etok\u002fs: 124,385\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,557\u003cbr\u003etok\u002fs: 113,823\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,469\u003cbr\u003etok\u002fs: 111,008\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,657\u003cbr\u003etok\u002fs: 85,032\u003cbr\u003eGPU memory: 36.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,622\u003cbr\u003etok\u002fs: 83,900\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,237\u003cbr\u003etok\u002fs: 71,586\u003cbr\u003eGPU memory: 37.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,236\u003cbr\u003etok\u002fs: 71,545\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 68,937\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,992\u003cbr\u003etok\u002fs: 63,758\u003cbr\u003eGPU memory: 46.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,960\u003cbr\u003etok\u002fs: 62,708\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,899\u003cbr\u003etok\u002fs: 60,766\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,491\u003cbr\u003etok\u002fs: 47,711\u003cbr\u003eGPU memory: 75.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,423\u003cbr\u003etok\u002fs: 45,529\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 43,975\u003cbr\u003eGPU memory: 77.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,359\u003cbr\u003etok\u002fs: 43,504\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,227\u003cbr\u003etok\u002fs: 39,266\u003cbr\u003eGPU memory: 20.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,152\u003cbr\u003etok\u002fs: 36,849\u003cbr\u003eGPU memory: 76.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 950\u003cbr\u003etok\u002fs: 30,401\u003cbr\u003eGPU memory: 10.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 933\u003cbr\u003etok\u002fs: 29,865\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 812\u003cbr\u003etok\u002fs: 25,975\u003cbr\u003eGPU memory: 77.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 782\u003cbr\u003etok\u002fs: 25,021\u003cbr\u003eGPU memory: 76.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 779\u003cbr\u003etok\u002fs: 24,932\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 21,279\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 651\u003cbr\u003etok\u002fs: 20,832\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 645\u003cbr\u003etok\u002fs: 20,624\u003cbr\u003eGPU memory: 11.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 461\u003cbr\u003etok\u002fs: 14,761\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 420\u003cbr\u003etok\u002fs: 13,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 409\u003cbr\u003etok\u002fs: 13,095\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 8,965\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 262\u003cbr\u003etok\u002fs: 8,397\u003cbr\u003eGPU memory: 7.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 4,433\u003cbr\u003eGPU memory: 7.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 3,333\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.17647058823529413,0.29411764705882354,0.47058823529411764,0.6470588235294118,0.7058823529411765,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471],"y":[0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8736232687571303,0.8715081937499334,0.8654521755818789,0.84453332409293,0.8316149737181607,0.8113091874486891,0.8006871661460055,0.7972633301702724,0.7932970647503492,0.7763897921975457,0.7706243136335044,0.7560866714290284,0.7475010928553913,0.7442265249330959,0.7200024522608779,0.7058886247081276,0.668038511157787,0.663196628674393,0.6407691036453391,0.6305255834781589,0.6123708564787667,0.5682434881811687,0.542781290315702,0.5074380804128329,0.4724773698968984,0.4578904159247689,0.44867311362497475,0.44243317589107695,0.42037748824514076,0.35754629975157537,0.3062034203708246,0.2870104807497521,0.28344937147487503,0.27877008454969027,0.27281002441598873,0.2491990169632481,0.22872263863270462,0.20442259918329053,0.18394488810226994,0.17274045484108283,0.15768703820195967,0.15080338198761076,0.13932973313004446,0.12485339744751629,0.12411638643366635,0.11235990628330642,0.08905198290609327,0.08862657397831349,0.08839467539529379,0.08712056593916262,0.07810983996332271,0.07089832713160112,0.06331334369159075,0.0565059547291318,0.05567964943331451,0.03989588553272703,0.03588697209753602,0.035428150260733364,0.034877170216386214,0.032146283652757617,0.02910860317087994,0.02811570406542206,0.026800279344500005,0.020493704086746063,0.02009654444456291,0.013947233743109681,0.013725997163906984,0.012513194229723534,0.012453220458252926,0.004174374234291108],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[7.642692425537405,7.6362943671284125,7.617975036687039,7.554695941042718,7.51561819677154,7.454193610810985,7.4220622147683475,7.411705181338794,7.3997073099933885,7.348563158149361,7.33112270403638,7.287146635274387,7.261175436616084,7.251269935979101,7.177992614213608,7.1352985760590855,7.020802760800503,7.006156165841544,6.938313363758043,6.9073269258679915,6.852409249971779,6.71892486816855,6.641902243150408,6.534989759881311,6.429234329393172,6.385109093547919,6.357226943606779,6.338351260260277,6.271633258615407,6.081570205286159,5.926259050813566,5.868200803083324,5.8574285207463195,5.843273774007837,5.825244714647401,5.753821902565674,5.691881279127896,5.618374159423328,5.55642950444276,5.522536324200545,5.477000048378514,5.456177129864057,5.421469577978101,5.377678960184483,5.375449517021174,5.339544596926352,5.269109512828369,5.268093564045088,5.26739207559949,5.2635379206914905,5.236280659882924,5.214465981841931,5.191328957765558,5.170929351244134,5.168429794713841,5.120684233442454,5.1085573527277415,5.107061650352357,5.105396623179758,5.097144055087001,5.0880529260937575,5.085049426714615,5.0810702939801,5.0619930334940575,5.060791633742401,5.0421900953056715,5.041520859202399,5.037852155262776,5.037670735837191,5.012614697392398],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,555\u003cbr\u003etok\u002fs: 419,523\u003cbr\u003eGPU memory: 59.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,539\u003cbr\u003etok\u002fs: 418,507\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,494\u003cbr\u003etok\u002fs: 415,599\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,337\u003cbr\u003etok\u002fs: 405,553\u003cbr\u003eGPU memory: 55.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,240\u003cbr\u003etok\u002fs: 399,350\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,087\u003cbr\u003etok\u002fs: 389,599\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,008\u003cbr\u003etok\u002fs: 384,498\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 382,854\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,952\u003cbr\u003etok\u002fs: 380,949\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,825\u003cbr\u003etok\u002fs: 372,830\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,782\u003cbr\u003etok\u002fs: 370,061\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,673\u003cbr\u003etok\u002fs: 363,080\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 358,957\u003cbr\u003eGPU memory: 51.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,584\u003cbr\u003etok\u002fs: 357,385\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,402\u003cbr\u003etok\u002fs: 345,752\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,296\u003cbr\u003etok\u002fs: 338,975\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,012\u003cbr\u003etok\u002fs: 320,799\u003cbr\u003eGPU memory: 44.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,976\u003cbr\u003etok\u002fs: 318,474\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,808\u003cbr\u003etok\u002fs: 307,704\u003cbr\u003eGPU memory: 46.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 302,785\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,595\u003cbr\u003etok\u002fs: 294,067\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,264\u003cbr\u003etok\u002fs: 272,876\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,073\u003cbr\u003etok\u002fs: 260,649\u003cbr\u003eGPU memory: 47.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,807\u003cbr\u003etok\u002fs: 243,677\u003cbr\u003eGPU memory: 58.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,545\u003cbr\u003etok\u002fs: 226,888\u003cbr\u003eGPU memory: 27.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,436\u003cbr\u003etok\u002fs: 219,884\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,367\u003cbr\u003etok\u002fs: 215,457\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,320\u003cbr\u003etok\u002fs: 212,461\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,154\u003cbr\u003etok\u002fs: 201,869\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,683\u003cbr\u003etok\u002fs: 171,697\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,298\u003cbr\u003etok\u002fs: 147,042\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 137,825\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,127\u003cbr\u003etok\u002fs: 136,115\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,092\u003cbr\u003etok\u002fs: 133,868\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,047\u003cbr\u003etok\u002fs: 131,006\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,870\u003cbr\u003etok\u002fs: 119,668\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,716\u003cbr\u003etok\u002fs: 109,835\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,534\u003cbr\u003etok\u002fs: 98,166\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,380\u003cbr\u003etok\u002fs: 88,332\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,296\u003cbr\u003etok\u002fs: 82,952\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,183\u003cbr\u003etok\u002fs: 75,723\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,132\u003cbr\u003etok\u002fs: 72,417\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,045\u003cbr\u003etok\u002fs: 66,908\u003cbr\u003eGPU memory: 18.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 937\u003cbr\u003etok\u002fs: 59,956\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 931\u003cbr\u003etok\u002fs: 59,602\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 842\u003cbr\u003etok\u002fs: 53,902\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 772\u003cbr\u003etok\u002fs: 49,401\u003cbr\u003eGPU memory: 77.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 668\u003cbr\u003etok\u002fs: 42,721\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 42,448\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 41,836\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 39,402\u003cbr\u003eGPU memory: 75.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 37,509\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 532\u003cbr\u003etok\u002fs: 34,046\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 30,373\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 27,135\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 418\u003cbr\u003etok\u002fs: 26,738\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,158\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 17,233\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 266\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 16,732\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 15,421\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,978\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 13,501\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,870\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,841\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 9,651\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 6,698\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,591\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 6,009\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 5,980\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 2,003\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,555\u003cbr\u003etok\u002fs: 419,523\u003cbr\u003eGPU memory: 59.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,539\u003cbr\u003etok\u002fs: 418,507\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 39.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,494\u003cbr\u003etok\u002fs: 415,599\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 38.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,337\u003cbr\u003etok\u002fs: 405,553\u003cbr\u003eGPU memory: 55.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 37.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,240\u003cbr\u003etok\u002fs: 399,350\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,087\u003cbr\u003etok\u002fs: 389,599\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,008\u003cbr\u003etok\u002fs: 384,498\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,982\u003cbr\u003etok\u002fs: 382,854\u003cbr\u003eGPU memory: 32.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,952\u003cbr\u003etok\u002fs: 380,949\u003cbr\u003eGPU memory: 38.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 35.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,825\u003cbr\u003etok\u002fs: 372,830\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,782\u003cbr\u003etok\u002fs: 370,061\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,673\u003cbr\u003etok\u002fs: 363,080\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,609\u003cbr\u003etok\u002fs: 358,957\u003cbr\u003eGPU memory: 51.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,584\u003cbr\u003etok\u002fs: 357,385\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,402\u003cbr\u003etok\u002fs: 345,752\u003cbr\u003eGPU memory: 46.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,296\u003cbr\u003etok\u002fs: 338,975\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,012\u003cbr\u003etok\u002fs: 320,799\u003cbr\u003eGPU memory: 44.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,976\u003cbr\u003etok\u002fs: 318,474\u003cbr\u003eGPU memory: 54.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,808\u003cbr\u003etok\u002fs: 307,704\u003cbr\u003eGPU memory: 46.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 302,785\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,595\u003cbr\u003etok\u002fs: 294,067\u003cbr\u003eGPU memory: 45.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,264\u003cbr\u003etok\u002fs: 272,876\u003cbr\u003eGPU memory: 29.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,073\u003cbr\u003etok\u002fs: 260,649\u003cbr\u003eGPU memory: 47.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,807\u003cbr\u003etok\u002fs: 243,677\u003cbr\u003eGPU memory: 58.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,545\u003cbr\u003etok\u002fs: 226,888\u003cbr\u003eGPU memory: 27.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,436\u003cbr\u003etok\u002fs: 219,884\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,367\u003cbr\u003etok\u002fs: 215,457\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,320\u003cbr\u003etok\u002fs: 212,461\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,154\u003cbr\u003etok\u002fs: 201,869\u003cbr\u003eGPU memory: 25.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,683\u003cbr\u003etok\u002fs: 171,697\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,298\u003cbr\u003etok\u002fs: 147,042\u003cbr\u003eGPU memory: 41.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,154\u003cbr\u003etok\u002fs: 137,825\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,127\u003cbr\u003etok\u002fs: 136,115\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,092\u003cbr\u003etok\u002fs: 133,868\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,047\u003cbr\u003etok\u002fs: 131,006\u003cbr\u003eGPU memory: 25.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,870\u003cbr\u003etok\u002fs: 119,668\u003cbr\u003eGPU memory: 16.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,716\u003cbr\u003etok\u002fs: 109,835\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,534\u003cbr\u003etok\u002fs: 98,166\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,380\u003cbr\u003etok\u002fs: 88,332\u003cbr\u003eGPU memory: 62.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,296\u003cbr\u003etok\u002fs: 82,952\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,183\u003cbr\u003etok\u002fs: 75,723\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,132\u003cbr\u003etok\u002fs: 72,417\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,045\u003cbr\u003etok\u002fs: 66,908\u003cbr\u003eGPU memory: 18.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 937\u003cbr\u003etok\u002fs: 59,956\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 931\u003cbr\u003etok\u002fs: 59,602\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 842\u003cbr\u003etok\u002fs: 53,902\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 772\u003cbr\u003etok\u002fs: 49,401\u003cbr\u003eGPU memory: 77.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 668\u003cbr\u003etok\u002fs: 42,721\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 42,448\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 654\u003cbr\u003etok\u002fs: 41,836\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 616\u003cbr\u003etok\u002fs: 39,402\u003cbr\u003eGPU memory: 75.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 586\u003cbr\u003etok\u002fs: 37,509\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 532\u003cbr\u003etok\u002fs: 34,046\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 30,373\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 424\u003cbr\u003etok\u002fs: 27,135\u003cbr\u003eGPU memory: 42.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 418\u003cbr\u003etok\u002fs: 26,738\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 299\u003cbr\u003etok\u002fs: 19,158\u003cbr\u003eGPU memory: 7.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 269\u003cbr\u003etok\u002fs: 17,233\u003cbr\u003eGPU memory: 15.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 266\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 16,732\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 15,421\u003cbr\u003eGPU memory: 11.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 218\u003cbr\u003etok\u002fs: 13,978\u003cbr\u003eGPU memory: 21.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 211\u003cbr\u003etok\u002fs: 13,501\u003cbr\u003eGPU memory: 33.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 201\u003cbr\u003etok\u002fs: 12,870\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 9,841\u003cbr\u003eGPU memory: 5.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 9,651\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 6,698\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 6,591\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 6,009\u003cbr\u003eGPU memory: 10.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 5,980\u003cbr\u003eGPU memory: 8.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 2,003\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8823529411764706,0.23529411764705882,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705],"y":[0.45549999999999985,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8034166391231569,0.7593918926122976,0.7341909138403473,0.7250389163139321,0.7192960945080019,0.7164813255003146,0.7159908733247327,0.7118087023275154,0.7020702945911655,0.700365706730923,0.6928409975370772,0.6852469853184209,0.6753313217686132,0.6705040995404675,0.6691313665490293,0.6669963002846755,0.6667350811911592,0.6464852704417269,0.6462986853749294,0.6367202076958344,0.6305629004915185,0.6023459073898348,0.5794146026804278,0.5741209177852886,0.558914234841296,0.551793349042019,0.550683167894574,0.5475205510123573,0.526585706517683,0.5242400656779436,0.5070249277649242,0.5029240545468115,0.4877906728790609,0.480062052862215,0.4772619441097759,0.4708660745700547,0.4594484012325276,0.4429422865733386,0.43643979699544744,0.42738509025386234,0.4245663229947437,0.41918201106716,0.4187062191468265,0.4162512927679628,0.41569153756757055,0.4133805482402363,0.4125822307044386,0.4103618684095489,0.38661092215671017,0.38593255216385375,0.3651989529912252,0.3591082833107654,0.3080865967950017,0.3079906387606487,0.28722238807561495,0.2847474704395944,0.2838625241227837,0.27898732287746164,0.2761419006088004,0.27137465215212553,0.2542621360258447,0.2532572421660927,0.25139672250002665,0.23252097749250994,0.20206363083877985,0.2017091192118647,0.1969831860199806,0.18313457581217812,0.1714583488820889,0.1676919960337346,0.1661758481935234,0.15740316235033214,0.14629868537492938,0.13787037135759297,0.1358419251314092,0.1357446343465791,0.12297821752620189,0.12191201714450216,0.10560940017096605,0.10193142199144908,0.10165114885963919,0.087595025109019,0.08668075828171148,0.08582748225915124,0.08432178993720081,0.07683839600814577,0.07524975743941317,0.06901648345790108,0.06332164066914736,0.060638488996878806,0.058562641662728294,0.0391335522598117,0.03592029085946413,0.03535920290859464,0.03427282648735653,0.034199451420918056,0.033392325690094746,0.03169002414872196,0.027749197684212773,0.026593703020545683,0.02445996950666908,0.02022715399132113,0.020113870200765535,0.01848391636724206,0.0174405862463687,0.014888468026426582,0.014060517533665278,0.01249453572304379,0.01166689767674937,0.007292147511868073,0.00698761075156465,0.005450949451439903,0.004119676457491512,0.0022252656512616056],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[9.860637628807792,9.594289722791117,9.441824837528825,9.386455628840043,9.351711793068972,9.334682556320653,9.331715340826626,9.306413378271596,9.247496411926916,9.23718372546806,9.191659544274403,9.1457160826305,9.085726725903468,9.056522229926948,9.04821725177791,9.035300188676203,9.03371982390221,8.911209301575527,8.910080469594103,8.852131073519214,8.814879618132267,8.644167970198835,8.505434519681991,8.473407943751916,8.381408137265968,8.338327071003532,8.331610520714067,8.312476818628953,8.185821870313331,8.171630839689733,8.06747996323233,8.042669848897777,7.951113512118818,7.904355678831175,7.887415136024254,7.848720388318202,7.779643934140717,7.67978261921272,7.640442824660141,7.585662221218816,7.568608795213752,7.536033929464127,7.533155407911499,7.518303204270209,7.514916708325942,7.500935317927464,7.496105529664092,7.482672429085162,7.33898018093564,7.3348760703746105,7.209438647981809,7.172590346873941,6.863911241553918,6.863330699392043,6.737683636774121,6.722710486849107,6.717356598022931,6.687861830965474,6.670647143248778,6.641805486123429,6.53827546725581,6.53219590072729,6.52093983325539,6.4067423521633255,6.222476657367242,6.220331876602538,6.191740175130219,6.107956652851913,6.0373159600716,6.0145296802180255,6.004346003128477,5.952282659528148,5.885101030462337,5.83411007724436,5.8218380609891796,5.821249455741723,5.744013158955669,5.737562690490397,5.638289980809857,5.616680911451194,5.6143668058892775,5.529946299850026,5.524415023141056,5.518730547806034,5.51014336166164,5.464869136121011,5.455257938107755,5.417546886842657,5.383093322152521,5.3664914289400265,5.353945267775072,5.236756381932238,5.217316282595023,5.213921723565174,5.207140668591056,5.206697198884069,5.201819032107207,5.191530534905097,5.167881504894293,5.160890809695054,5.147981809678928,5.122373449871797,5.121688087597362,5.111826933931077,5.105408717808131,5.0899840350905485,5.085065552885778,5.07559142732741,5.070584251181242,5.044072825788973,5.042274757704278,5.032978020028705,5.024898808275951,5.013449226750093],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,617\u003cbr\u003eGPU memory: 66.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,698\u003cbr\u003etok\u002fs: 729,335\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,509\u003cbr\u003etok\u002fs: 705,132\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,440\u003cbr\u003etok\u002fs: 696,342\u003cbr\u003eGPU memory: 67.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,397\u003cbr\u003etok\u002fs: 690,826\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,376\u003cbr\u003etok\u002fs: 688,123\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,372\u003cbr\u003etok\u002fs: 687,652\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,341\u003cbr\u003etok\u002fs: 683,635\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,268\u003cbr\u003etok\u002fs: 674,282\u003cbr\u003eGPU memory: 35.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,255\u003cbr\u003etok\u002fs: 672,645\u003cbr\u003eGPU memory: 31.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,199\u003cbr\u003etok\u002fs: 665,418\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,142\u003cbr\u003etok\u002fs: 658,125\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,067\u003cbr\u003etok\u002fs: 648,602\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,031\u003cbr\u003etok\u002fs: 643,965\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,021\u003cbr\u003etok\u002fs: 642,647\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,005\u003cbr\u003etok\u002fs: 640,596\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,003\u003cbr\u003etok\u002fs: 640,346\u003cbr\u003eGPU memory: 27.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,851\u003cbr\u003etok\u002fs: 620,897\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,849\u003cbr\u003etok\u002fs: 620,718\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,777\u003cbr\u003etok\u002fs: 611,519\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 605,605\u003cbr\u003eGPU memory: 43.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,520\u003cbr\u003etok\u002fs: 578,505\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,348\u003cbr\u003etok\u002fs: 556,481\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,308\u003cbr\u003etok\u002fs: 551,397\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,194\u003cbr\u003etok\u002fs: 536,792\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,140\u003cbr\u003etok\u002fs: 529,953\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,132\u003cbr\u003etok\u002fs: 528,887\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,108\u003cbr\u003etok\u002fs: 525,850\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,951\u003cbr\u003etok\u002fs: 505,743\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,934\u003cbr\u003etok\u002fs: 503,491\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,804\u003cbr\u003etok\u002fs: 486,957\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,774\u003cbr\u003etok\u002fs: 483,018\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,660\u003cbr\u003etok\u002fs: 468,484\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,602\u003cbr\u003etok\u002fs: 461,061\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,581\u003cbr\u003etok\u002fs: 458,372\u003cbr\u003eGPU memory: 67.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,533\u003cbr\u003etok\u002fs: 452,229\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,447\u003cbr\u003etok\u002fs: 441,263\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,324\u003cbr\u003etok\u002fs: 425,411\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,275\u003cbr\u003etok\u002fs: 419,165\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,207\u003cbr\u003etok\u002fs: 410,469\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,186\u003cbr\u003etok\u002fs: 407,762\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,145\u003cbr\u003etok\u002fs: 402,591\u003cbr\u003eGPU memory: 40.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,142\u003cbr\u003etok\u002fs: 402,134\u003cbr\u003eGPU memory: 34.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,123\u003cbr\u003etok\u002fs: 399,776\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,119\u003cbr\u003etok\u002fs: 399,238\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,102\u003cbr\u003etok\u002fs: 397,019\u003cbr\u003eGPU memory: 61.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 396,252\u003cbr\u003eGPU memory: 60.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,079\u003cbr\u003etok\u002fs: 394,120\u003cbr\u003eGPU memory: 52.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,901\u003cbr\u003etok\u002fs: 371,309\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,896\u003cbr\u003etok\u002fs: 370,657\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,740\u003cbr\u003etok\u002fs: 350,744\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,694\u003cbr\u003etok\u002fs: 344,895\u003cbr\u003eGPU memory: 57.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,312\u003cbr\u003etok\u002fs: 295,892\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,311\u003cbr\u003etok\u002fs: 295,800\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,155\u003cbr\u003etok\u002fs: 275,854\u003cbr\u003eGPU memory: 65.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 273,477\u003cbr\u003eGPU memory: 20.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 272,627\u003cbr\u003eGPU memory: 41.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,093\u003cbr\u003etok\u002fs: 267,945\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,072\u003cbr\u003etok\u002fs: 265,212\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,036\u003cbr\u003etok\u002fs: 260,634\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,198\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,900\u003cbr\u003etok\u002fs: 243,233\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 241,446\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,745\u003cbr\u003etok\u002fs: 223,318\u003cbr\u003eGPU memory: 58.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 194,066\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 193,725\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,478\u003cbr\u003etok\u002fs: 189,187\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,886\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,286\u003cbr\u003etok\u002fs: 164,672\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,258\u003cbr\u003etok\u002fs: 161,055\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,246\u003cbr\u003etok\u002fs: 159,438\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,181\u003cbr\u003etok\u002fs: 151,173\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,098\u003cbr\u003etok\u002fs: 140,508\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,034\u003cbr\u003etok\u002fs: 132,413\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,465\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,372\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 973\u003cbr\u003etok\u002fs: 124,564\u003cbr\u003eGPU memory: 60.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 923\u003cbr\u003etok\u002fs: 118,111\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 915\u003cbr\u003etok\u002fs: 117,087\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 792\u003cbr\u003etok\u002fs: 101,327\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 765\u003cbr\u003etok\u002fs: 97,897\u003cbr\u003eGPU memory: 36.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 762\u003cbr\u003etok\u002fs: 97,530\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 657\u003cbr\u003etok\u002fs: 84,128\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 650\u003cbr\u003etok\u002fs: 83,250\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 82,348\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 80,984\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 584\u003cbr\u003etok\u002fs: 74,726\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 577\u003cbr\u003etok\u002fs: 73,797\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 72,271\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 518\u003cbr\u003etok\u002fs: 66,285\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 60,815\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 455\u003cbr\u003etok\u002fs: 58,180\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 439\u003cbr\u003etok\u002fs: 56,188\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,585\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 270\u003cbr\u003etok\u002fs: 34,499\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 265\u003cbr\u003etok\u002fs: 33,960\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 32,883\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,813\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,038\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 30,405\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,651\u003cbr\u003eGPU memory: 21.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 25,541\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 184\u003cbr\u003etok\u002fs: 23,492\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 152\u003cbr\u003etok\u002fs: 19,427\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 19,318\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 17,752\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 131\u003cbr\u003etok\u002fs: 16,733\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 112\u003cbr\u003etok\u002fs: 14,285\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 106\u003cbr\u003etok\u002fs: 13,504\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,000\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 11,205\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 6,996\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,711\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 5,235\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 3,953\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,135\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 36.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 6,028\u003cbr\u003etok\u002fs: 771,617\u003cbr\u003eGPU memory: 66.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,698\u003cbr\u003etok\u002fs: 729,335\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 33.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,509\u003cbr\u003etok\u002fs: 705,132\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,440\u003cbr\u003etok\u002fs: 696,342\u003cbr\u003eGPU memory: 67.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,397\u003cbr\u003etok\u002fs: 690,826\u003cbr\u003eGPU memory: 49.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,376\u003cbr\u003etok\u002fs: 688,123\u003cbr\u003eGPU memory: 58.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,372\u003cbr\u003etok\u002fs: 687,652\u003cbr\u003eGPU memory: 54.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,341\u003cbr\u003etok\u002fs: 683,635\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,268\u003cbr\u003etok\u002fs: 674,282\u003cbr\u003eGPU memory: 35.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,255\u003cbr\u003etok\u002fs: 672,645\u003cbr\u003eGPU memory: 31.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,199\u003cbr\u003etok\u002fs: 665,418\u003cbr\u003eGPU memory: 51.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 31.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,142\u003cbr\u003etok\u002fs: 658,125\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,067\u003cbr\u003etok\u002fs: 648,602\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,031\u003cbr\u003etok\u002fs: 643,965\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,021\u003cbr\u003etok\u002fs: 642,647\u003cbr\u003eGPU memory: 51.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,005\u003cbr\u003etok\u002fs: 640,596\u003cbr\u003eGPU memory: 42.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,003\u003cbr\u003etok\u002fs: 640,346\u003cbr\u003eGPU memory: 27.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,851\u003cbr\u003etok\u002fs: 620,897\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,849\u003cbr\u003etok\u002fs: 620,718\u003cbr\u003eGPU memory: 30.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,777\u003cbr\u003etok\u002fs: 611,519\u003cbr\u003eGPU memory: 32.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,731\u003cbr\u003etok\u002fs: 605,605\u003cbr\u003eGPU memory: 43.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,520\u003cbr\u003etok\u002fs: 578,505\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,348\u003cbr\u003etok\u002fs: 556,481\u003cbr\u003eGPU memory: 50.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,308\u003cbr\u003etok\u002fs: 551,397\u003cbr\u003eGPU memory: 42.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,194\u003cbr\u003etok\u002fs: 536,792\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 25.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,140\u003cbr\u003etok\u002fs: 529,953\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,132\u003cbr\u003etok\u002fs: 528,887\u003cbr\u003eGPU memory: 28.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,108\u003cbr\u003etok\u002fs: 525,850\u003cbr\u003eGPU memory: 50.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,951\u003cbr\u003etok\u002fs: 505,743\u003cbr\u003eGPU memory: 43.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,934\u003cbr\u003etok\u002fs: 503,491\u003cbr\u003eGPU memory: 45.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,804\u003cbr\u003etok\u002fs: 486,957\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,774\u003cbr\u003etok\u002fs: 483,018\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,660\u003cbr\u003etok\u002fs: 468,484\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,602\u003cbr\u003etok\u002fs: 461,061\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,581\u003cbr\u003etok\u002fs: 458,372\u003cbr\u003eGPU memory: 67.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,533\u003cbr\u003etok\u002fs: 452,229\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,447\u003cbr\u003etok\u002fs: 441,263\u003cbr\u003eGPU memory: 26.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,324\u003cbr\u003etok\u002fs: 425,411\u003cbr\u003eGPU memory: 62.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,275\u003cbr\u003etok\u002fs: 419,165\u003cbr\u003eGPU memory: 45.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,207\u003cbr\u003etok\u002fs: 410,469\u003cbr\u003eGPU memory: 34.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,186\u003cbr\u003etok\u002fs: 407,762\u003cbr\u003eGPU memory: 26.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 19.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,145\u003cbr\u003etok\u002fs: 402,591\u003cbr\u003eGPU memory: 40.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,142\u003cbr\u003etok\u002fs: 402,134\u003cbr\u003eGPU memory: 34.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,123\u003cbr\u003etok\u002fs: 399,776\u003cbr\u003eGPU memory: 14.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,119\u003cbr\u003etok\u002fs: 399,238\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,102\u003cbr\u003etok\u002fs: 397,019\u003cbr\u003eGPU memory: 61.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,096\u003cbr\u003etok\u002fs: 396,252\u003cbr\u003eGPU memory: 60.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,079\u003cbr\u003etok\u002fs: 394,120\u003cbr\u003eGPU memory: 52.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,901\u003cbr\u003etok\u002fs: 371,309\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,896\u003cbr\u003etok\u002fs: 370,657\u003cbr\u003eGPU memory: 52.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,740\u003cbr\u003etok\u002fs: 350,744\u003cbr\u003eGPU memory: 26.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,694\u003cbr\u003etok\u002fs: 344,895\u003cbr\u003eGPU memory: 57.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,312\u003cbr\u003etok\u002fs: 295,892\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,311\u003cbr\u003etok\u002fs: 295,800\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,155\u003cbr\u003etok\u002fs: 275,854\u003cbr\u003eGPU memory: 65.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,137\u003cbr\u003etok\u002fs: 273,477\u003cbr\u003eGPU memory: 20.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 272,627\u003cbr\u003eGPU memory: 41.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,093\u003cbr\u003etok\u002fs: 267,945\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,072\u003cbr\u003etok\u002fs: 265,212\u003cbr\u003eGPU memory: 18.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,036\u003cbr\u003etok\u002fs: 260,634\u003cbr\u003eGPU memory: 23.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,908\u003cbr\u003etok\u002fs: 244,198\u003cbr\u003eGPU memory: 49.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,900\u003cbr\u003etok\u002fs: 243,233\u003cbr\u003eGPU memory: 15.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 241,446\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,745\u003cbr\u003etok\u002fs: 223,318\u003cbr\u003eGPU memory: 58.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 194,066\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,513\u003cbr\u003etok\u002fs: 193,725\u003cbr\u003eGPU memory: 12.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,478\u003cbr\u003etok\u002fs: 189,187\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,374\u003cbr\u003etok\u002fs: 175,886\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,286\u003cbr\u003etok\u002fs: 164,672\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,258\u003cbr\u003etok\u002fs: 161,055\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,246\u003cbr\u003etok\u002fs: 159,438\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,181\u003cbr\u003etok\u002fs: 151,173\u003cbr\u003eGPU memory: 17.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,098\u003cbr\u003etok\u002fs: 140,508\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,034\u003cbr\u003etok\u002fs: 132,413\u003cbr\u003eGPU memory: 27.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,465\u003cbr\u003eGPU memory: 29.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,019\u003cbr\u003etok\u002fs: 130,372\u003cbr\u003eGPU memory: 13.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 973\u003cbr\u003etok\u002fs: 124,564\u003cbr\u003eGPU memory: 60.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 923\u003cbr\u003etok\u002fs: 118,111\u003cbr\u003eGPU memory: 8.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 915\u003cbr\u003etok\u002fs: 117,087\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 792\u003cbr\u003etok\u002fs: 101,327\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 765\u003cbr\u003etok\u002fs: 97,897\u003cbr\u003eGPU memory: 36.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 762\u003cbr\u003etok\u002fs: 97,530\u003cbr\u003eGPU memory: 63.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 657\u003cbr\u003etok\u002fs: 84,128\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 650\u003cbr\u003etok\u002fs: 83,250\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 643\u003cbr\u003etok\u002fs: 82,348\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 80,984\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 584\u003cbr\u003etok\u002fs: 74,726\u003cbr\u003eGPU memory: 68.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 577\u003cbr\u003etok\u002fs: 73,797\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 565\u003cbr\u003etok\u002fs: 72,271\u003cbr\u003eGPU memory: 14.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 518\u003cbr\u003etok\u002fs: 66,285\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 475\u003cbr\u003etok\u002fs: 60,815\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 455\u003cbr\u003etok\u002fs: 58,180\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 439\u003cbr\u003etok\u002fs: 56,188\u003cbr\u003eGPU memory: 17.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 294\u003cbr\u003etok\u002fs: 37,585\u003cbr\u003eGPU memory: 7.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 270\u003cbr\u003etok\u002fs: 34,499\u003cbr\u003eGPU memory: 15.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 265\u003cbr\u003etok\u002fs: 33,960\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 32,883\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 32,813\u003cbr\u003eGPU memory: 8.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,038\u003cbr\u003eGPU memory: 17.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 30,405\u003cbr\u003eGPU memory: 10.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 208\u003cbr\u003etok\u002fs: 26,651\u003cbr\u003eGPU memory: 21.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 25,541\u003cbr\u003eGPU memory: 34.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 184\u003cbr\u003etok\u002fs: 23,492\u003cbr\u003eGPU memory: 62.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 152\u003cbr\u003etok\u002fs: 19,427\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 19,318\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 17,752\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 131\u003cbr\u003etok\u002fs: 16,733\u003cbr\u003eGPU memory: 9.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 112\u003cbr\u003etok\u002fs: 14,285\u003cbr\u003eGPU memory: 6.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 106\u003cbr\u003etok\u002fs: 13,504\u003cbr\u003eGPU memory: 13.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 12,000\u003cbr\u003eGPU memory: 10.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 11,205\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 6,996\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,711\u003cbr\u003eGPU memory: 16.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 5,235\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 3,953\u003cbr\u003eGPU memory: 2.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 2,135\u003cbr\u003eGPU memory: 2.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.7647058823529411,0.4117647058823529,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.2794999999999998,0.2664999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.7234076297299314,0.6258489620539285,0.6164637331940166,0.5476191745476645,0.5400891343519101,0.535127304325575,0.5238322440319434,0.5192968941582882,0.5155585290699535,0.5008916100691965,0.4999480227313921,0.48860231791962994,0.48384306596581766,0.4733983004765916,0.4704049429049697,0.4657869625017326,0.46101038479171774,0.4132725954515892,0.40794959004595327,0.3823901013956563,0.3785371197662889,0.37382318132869896,0.3608595174377073,0.36046369054600125,0.3500349180625007,0.33143771790470306,0.3295745327376827,0.28852981629367425,0.28827526095254347,0.2838518621189666,0.27490510816602876,0.26277841157467136,0.2548072309709887,0.25171524986405946,0.2513007644656737,0.2501159492915099,0.2341002868079027,0.21296019873975114,0.20200498981778636,0.19257711294260643,0.19114307342922032,0.19044337942872983,0.19022747385143565,0.17420781311639713,0.16337388448785067,0.14653991321128895,0.1448566493586805,0.12547536588615585,0.12317279909586208,0.12139890821080916,0.11784979369022615,0.11703548314870298,0.09620592594172149,0.09406819417641353,0.09081965496120216,0.09039779936241217,0.08833736712477745,0.0829277329381284,0.08193483383267051,0.08016494119904895,0.07516979241078568,0.0751164823917007,0.07053182075039184,0.06637230651128573,0.0640799756906313,0.054160313889392374,0.05206961532898115,0.051606685364360166,0.05010875243893337,0.0488026569713512,0.048242901770958836,0.04446721966926464,0.04347032231237539,0.04313846744357134,0.04229616914202855,0.040165101129106213,0.03948140013434125,0.035587103240182966,0.031105691801448225,0.029859649764111092,0.02404681685876044,0.023834909532897613,0.02304458849996268,0.022280922476570247,0.020958834003262577,0.020601656875393167,0.020581665618236294,0.02032977577805973,0.019888635370131462,0.018999690801889308,0.01854788839014404,0.016065137273676425,0.015486560544188675,0.014659004182291694,0.014236440596645736,0.012529187235449032,0.012084048576089391,0.0117441972044226,0.011533622629036904,0.011063161710611892,0.010836594129500698,0.010192875649049483,0.010175549892846861,0.00843413036407427,0.00799521405756044,0.006326566514910813,0.00607467667473425,0.006016035653740765,0.0060147029032636395,0.004277099327304983,0.0040703150491601696,0.003194602893667835,0.0021652315059937583],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[13.753172824176357,12.572720968860363,12.459160471529245,11.62614697392398,11.53503410685201,11.474996371611487,11.338327071003532,11.283449710535226,11.238215800422505,11.0607472867717,11.04932995758817,10.912047862476012,10.854461305252293,10.728080501846446,10.691861121413943,10.63598393833352,10.578187740884681,10.000564415990711,9.936156488364968,9.626888777797486,9.580268016964732,9.523229749560562,9.366370482656302,9.361581009820839,9.235393720468949,9.010369128057924,8.9878247407718,8.491187047459322,8.488106948767154,8.434584186676558,8.326329199658126,8.179597168244344,8.08314653851736,8.04573382141878,8.040718582187031,8.026382416022964,7.8325942171550205,7.576800890164648,7.4442437632033025,7.330167228394962,7.31281546822338,7.30434922836271,7.301736788634274,7.107900211252842,6.976810565867346,6.77312089790521,6.752753543726113,6.516714776410637,6.4903807389011625,6.468916805082969,6.425972811275419,6.416119720694716,6.164083791585364,6.138217413039622,6.097805228104691,6.093805937656223,6.068874877037945,6.003418748286594,5.991404750770025,5.96998919546532,5.9095483059457194,5.908903259099192,5.85342923029785,5.803099450097563,5.775362435696892,5.655335343729338,5.629404460498944,5.62380867910532,5.606311783393269,5.5905081356533515,5.583735143764816,5.538049700859525,5.525987324829465,5.521971908209833,5.511780168034703,5.4859944203447775,5.477721694538066,5.430601022399252,5.375997806840722,5.360935962974311,5.29096450629727,5.288400445082324,5.2788376255825575,5.269597329506055,5.25360016771218,5.249278353840448,5.249036461273,5.245988614923159,5.240650852268146,5.2298946961023045,5.224427924077986,5.194191353147023,5.18738610891616,5.17719436874103,5.172259760365097,5.151602135105062,5.1462159939365595,5.1421038202899485,5.139555885246166,5.133863346825563,5.131121897727822,5.123332957056006,5.123123316830885,5.101949654093628,5.096644143780942,5.076550934511619,5.073503088161778,5.072793536630598,5.072777410459435,5.051700504749157,5.049200948218864,5.038654432278144,5.026172775797843],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,428\u003cbr\u003etok\u002fs: 1,389,550\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,696\u003cbr\u003etok\u002fs: 1,202,156\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,626\u003cbr\u003etok\u002fs: 1,184,128\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,889\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,052\u003cbr\u003etok\u002fs: 1,037,425\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,015\u003cbr\u003etok\u002fs: 1,027,894\u003cbr\u003eGPU memory: 48.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,930\u003cbr\u003etok\u002fs: 1,006,198\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,896\u003cbr\u003etok\u002fs: 997,486\u003cbr\u003eGPU memory: 50.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,868\u003cbr\u003etok\u002fs: 990,305\u003cbr\u003eGPU memory: 29.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 962,132\u003cbr\u003eGPU memory: 33.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,751\u003cbr\u003etok\u002fs: 960,320\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,666\u003cbr\u003etok\u002fs: 938,527\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,630\u003cbr\u003etok\u002fs: 929,385\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,552\u003cbr\u003etok\u002fs: 909,322\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,530\u003cbr\u003etok\u002fs: 903,572\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,495\u003cbr\u003etok\u002fs: 894,702\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,459\u003cbr\u003etok\u002fs: 885,527\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 793,830\u003cbr\u003eGPU memory: 42.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 783,606\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,869\u003cbr\u003etok\u002fs: 734,510\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,840\u003cbr\u003etok\u002fs: 727,109\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,805\u003cbr\u003etok\u002fs: 718,054\u003cbr\u003eGPU memory: 40.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,708\u003cbr\u003etok\u002fs: 693,153\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,705\u003cbr\u003etok\u002fs: 692,393\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,626\u003cbr\u003etok\u002fs: 672,361\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,487\u003cbr\u003etok\u002fs: 636,639\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,473\u003cbr\u003etok\u002fs: 633,060\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,165\u003cbr\u003etok\u002fs: 554,220\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,163\u003cbr\u003etok\u002fs: 553,731\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 545,234\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,063\u003cbr\u003etok\u002fs: 528,049\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,972\u003cbr\u003etok\u002fs: 504,755\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,912\u003cbr\u003etok\u002fs: 489,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,889\u003cbr\u003etok\u002fs: 483,505\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 482,708\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,877\u003cbr\u003etok\u002fs: 480,433\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,757\u003cbr\u003etok\u002fs: 449,669\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,598\u003cbr\u003etok\u002fs: 409,062\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 388,019\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 369,910\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,434\u003cbr\u003etok\u002fs: 367,155\u003cbr\u003eGPU memory: 33.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,429\u003cbr\u003etok\u002fs: 365,811\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,427\u003cbr\u003etok\u002fs: 365,396\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,307\u003cbr\u003etok\u002fs: 334,625\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,226\u003cbr\u003etok\u002fs: 313,815\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,100\u003cbr\u003etok\u002fs: 281,480\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,087\u003cbr\u003etok\u002fs: 278,246\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 941\u003cbr\u003etok\u002fs: 240,776\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 924\u003cbr\u003etok\u002fs: 236,595\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 911\u003cbr\u003etok\u002fs: 233,188\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 884\u003cbr\u003etok\u002fs: 226,371\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 878\u003cbr\u003etok\u002fs: 224,806\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 722\u003cbr\u003etok\u002fs: 184,796\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 706\u003cbr\u003etok\u002fs: 180,690\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 681\u003cbr\u003etok\u002fs: 174,275\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 173,640\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 169,682\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 622\u003cbr\u003etok\u002fs: 159,291\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,384\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 602\u003cbr\u003etok\u002fs: 153,984\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,389\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,287\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 135,480\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 498\u003cbr\u003etok\u002fs: 127,491\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 481\u003cbr\u003etok\u002fs: 123,087\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 406\u003cbr\u003etok\u002fs: 104,033\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 390\u003cbr\u003etok\u002fs: 99,917\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 387\u003cbr\u003etok\u002fs: 99,028\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 376\u003cbr\u003etok\u002fs: 96,251\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 366\u003cbr\u003etok\u002fs: 93,742\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 362\u003cbr\u003etok\u002fs: 92,667\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 334\u003cbr\u003etok\u002fs: 85,414\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 83,500\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 324\u003cbr\u003etok\u002fs: 82,862\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 317\u003cbr\u003etok\u002fs: 81,244\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 77,151\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 296\u003cbr\u003etok\u002fs: 75,837\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 267\u003cbr\u003etok\u002fs: 68,357\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 233\u003cbr\u003etok\u002fs: 59,689\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 57,298\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 180\u003cbr\u003etok\u002fs: 46,190\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 179\u003cbr\u003etok\u002fs: 45,783\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 44,265\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 42,798\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 157\u003cbr\u003etok\u002fs: 40,259\u003cbr\u003eGPU memory: 18.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,572\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 39,534\u003cbr\u003eGPU memory: 41.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,050\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 149\u003cbr\u003etok\u002fs: 38,203\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 36,495\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 35,628\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 30,828\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 29,747\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,129\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 27,346\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 24,067\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,212\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 22,559\u003cbr\u003eGPU memory: 22.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 87\u003cbr\u003etok\u002fs: 22,154\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 83\u003cbr\u003etok\u002fs: 21,251\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 20,815\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,579\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,546\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 63\u003cbr\u003etok\u002fs: 16,184\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,342\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 12,152\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 11,668\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,556\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,553\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 8,207\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 7,811\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 6,136\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 4,155\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.06449999999999982],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 5,428\u003cbr\u003etok\u002fs: 1,389,550\u003cbr\u003eGPU memory: 63.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,696\u003cbr\u003etok\u002fs: 1,202,156\u003cbr\u003eGPU memory: 43.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 27.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,626\u003cbr\u003etok\u002fs: 1,184,128\u003cbr\u003eGPU memory: 60.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,109\u003cbr\u003etok\u002fs: 1,051,889\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,052\u003cbr\u003etok\u002fs: 1,037,425\u003cbr\u003eGPU memory: 31.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 4,015\u003cbr\u003etok\u002fs: 1,027,894\u003cbr\u003eGPU memory: 48.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,930\u003cbr\u003etok\u002fs: 1,006,198\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,896\u003cbr\u003etok\u002fs: 997,486\u003cbr\u003eGPU memory: 50.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,868\u003cbr\u003etok\u002fs: 990,305\u003cbr\u003eGPU memory: 29.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,758\u003cbr\u003etok\u002fs: 962,132\u003cbr\u003eGPU memory: 33.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,751\u003cbr\u003etok\u002fs: 960,320\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 22.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,666\u003cbr\u003etok\u002fs: 938,527\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,630\u003cbr\u003etok\u002fs: 929,385\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,552\u003cbr\u003etok\u002fs: 909,322\u003cbr\u003eGPU memory: 48.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,530\u003cbr\u003etok\u002fs: 903,572\u003cbr\u003eGPU memory: 51.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,495\u003cbr\u003etok\u002fs: 894,702\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 20.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,459\u003cbr\u003etok\u002fs: 885,527\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 793,830\u003cbr\u003eGPU memory: 42.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,061\u003cbr\u003etok\u002fs: 783,606\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,869\u003cbr\u003etok\u002fs: 734,510\u003cbr\u003eGPU memory: 33.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,840\u003cbr\u003etok\u002fs: 727,109\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,805\u003cbr\u003etok\u002fs: 718,054\u003cbr\u003eGPU memory: 40.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,708\u003cbr\u003etok\u002fs: 693,153\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,705\u003cbr\u003etok\u002fs: 692,393\u003cbr\u003eGPU memory: 65.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,626\u003cbr\u003etok\u002fs: 672,361\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,487\u003cbr\u003etok\u002fs: 636,639\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,473\u003cbr\u003etok\u002fs: 633,060\u003cbr\u003eGPU memory: 14.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,165\u003cbr\u003etok\u002fs: 554,220\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,163\u003cbr\u003etok\u002fs: 553,731\u003cbr\u003eGPU memory: 19.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,130\u003cbr\u003etok\u002fs: 545,234\u003cbr\u003eGPU memory: 25.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,063\u003cbr\u003etok\u002fs: 528,049\u003cbr\u003eGPU memory: 41.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,972\u003cbr\u003etok\u002fs: 504,755\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,912\u003cbr\u003etok\u002fs: 489,444\u003cbr\u003eGPU memory: 65.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,889\u003cbr\u003etok\u002fs: 483,505\u003cbr\u003eGPU memory: 14.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,886\u003cbr\u003etok\u002fs: 482,708\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,877\u003cbr\u003etok\u002fs: 480,433\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,757\u003cbr\u003etok\u002fs: 449,669\u003cbr\u003eGPU memory: 38.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,598\u003cbr\u003etok\u002fs: 409,062\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,516\u003cbr\u003etok\u002fs: 388,019\u003cbr\u003eGPU memory: 14.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,445\u003cbr\u003etok\u002fs: 369,910\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,434\u003cbr\u003etok\u002fs: 367,155\u003cbr\u003eGPU memory: 33.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,429\u003cbr\u003etok\u002fs: 365,811\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,427\u003cbr\u003etok\u002fs: 365,396\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,307\u003cbr\u003etok\u002fs: 334,625\u003cbr\u003eGPU memory: 15.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,226\u003cbr\u003etok\u002fs: 313,815\u003cbr\u003eGPU memory: 34.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,100\u003cbr\u003etok\u002fs: 281,480\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,087\u003cbr\u003etok\u002fs: 278,246\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 941\u003cbr\u003etok\u002fs: 240,776\u003cbr\u003eGPU memory: 37.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 924\u003cbr\u003etok\u002fs: 236,595\u003cbr\u003eGPU memory: 19.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 911\u003cbr\u003etok\u002fs: 233,188\u003cbr\u003eGPU memory: 18.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 884\u003cbr\u003etok\u002fs: 226,371\u003cbr\u003eGPU memory: 8.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 878\u003cbr\u003etok\u002fs: 224,806\u003cbr\u003eGPU memory: 14.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 722\u003cbr\u003etok\u002fs: 184,796\u003cbr\u003eGPU memory: 38.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 706\u003cbr\u003etok\u002fs: 180,690\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 681\u003cbr\u003etok\u002fs: 174,275\u003cbr\u003eGPU memory: 31.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 678\u003cbr\u003etok\u002fs: 173,640\u003cbr\u003eGPU memory: 34.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 663\u003cbr\u003etok\u002fs: 169,682\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 622\u003cbr\u003etok\u002fs: 159,291\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 615\u003cbr\u003etok\u002fs: 157,384\u003cbr\u003eGPU memory: 24.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 602\u003cbr\u003etok\u002fs: 153,984\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,389\u003cbr\u003eGPU memory: 8.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 564\u003cbr\u003etok\u002fs: 144,287\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 529\u003cbr\u003etok\u002fs: 135,480\u003cbr\u003eGPU memory: 30.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 498\u003cbr\u003etok\u002fs: 127,491\u003cbr\u003eGPU memory: 7.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 481\u003cbr\u003etok\u002fs: 123,087\u003cbr\u003eGPU memory: 12.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 406\u003cbr\u003etok\u002fs: 104,033\u003cbr\u003eGPU memory: 26.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 390\u003cbr\u003etok\u002fs: 99,917\u003cbr\u003eGPU memory: 31.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 387\u003cbr\u003etok\u002fs: 99,028\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 376\u003cbr\u003etok\u002fs: 96,251\u003cbr\u003eGPU memory: 8.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 366\u003cbr\u003etok\u002fs: 93,742\u003cbr\u003eGPU memory: 21.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 362\u003cbr\u003etok\u002fs: 92,667\u003cbr\u003eGPU memory: 17.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 334\u003cbr\u003etok\u002fs: 85,414\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 83,500\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 324\u003cbr\u003etok\u002fs: 82,862\u003cbr\u003eGPU memory: 10.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 317\u003cbr\u003etok\u002fs: 81,244\u003cbr\u003eGPU memory: 36.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 301\u003cbr\u003etok\u002fs: 77,151\u003cbr\u003eGPU memory: 36.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 296\u003cbr\u003etok\u002fs: 75,837\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 267\u003cbr\u003etok\u002fs: 68,357\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 233\u003cbr\u003etok\u002fs: 59,689\u003cbr\u003eGPU memory: 16.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 224\u003cbr\u003etok\u002fs: 57,298\u003cbr\u003eGPU memory: 9.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 180\u003cbr\u003etok\u002fs: 46,190\u003cbr\u003eGPU memory: 11.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 179\u003cbr\u003etok\u002fs: 45,783\u003cbr\u003eGPU memory: 20.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 173\u003cbr\u003etok\u002fs: 44,265\u003cbr\u003eGPU memory: 19.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 167\u003cbr\u003etok\u002fs: 42,798\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 157\u003cbr\u003etok\u002fs: 40,259\u003cbr\u003eGPU memory: 18.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,572\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 154\u003cbr\u003etok\u002fs: 39,534\u003cbr\u003eGPU memory: 41.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 153\u003cbr\u003etok\u002fs: 39,050\u003cbr\u003eGPU memory: 42.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 149\u003cbr\u003etok\u002fs: 38,203\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 143\u003cbr\u003etok\u002fs: 36,495\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 139\u003cbr\u003etok\u002fs: 35,628\u003cbr\u003eGPU memory: 4.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 30,828\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 29,747\u003cbr\u003eGPU memory: 5.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,129\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 27,346\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 94\u003cbr\u003etok\u002fs: 24,067\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,212\u003cbr\u003eGPU memory: 23.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 88\u003cbr\u003etok\u002fs: 22,559\u003cbr\u003eGPU memory: 22.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 87\u003cbr\u003etok\u002fs: 22,154\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 83\u003cbr\u003etok\u002fs: 21,251\u003cbr\u003eGPU memory: 22.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 20,815\u003cbr\u003eGPU memory: 5.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,579\u003cbr\u003eGPU memory: 54.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 19,546\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 63\u003cbr\u003etok\u002fs: 16,184\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,342\u003cbr\u003eGPU memory: 3.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 47\u003cbr\u003etok\u002fs: 12,152\u003cbr\u003eGPU memory: 12.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 46\u003cbr\u003etok\u002fs: 11,668\u003cbr\u003eGPU memory: 29.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,556\u003cbr\u003eGPU memory: 5.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,553\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 8,207\u003cbr\u003eGPU memory: 3.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 31\u003cbr\u003etok\u002fs: 7,811\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 6,136\u003cbr\u003eGPU memory: 6.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 4,155\u003cbr\u003eGPU memory: 2.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471],"y":[0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.41322594918488986,0.287415636894798,0.21240310904031304,0.17804126348268456,0.17683999530871836,0.1731642694928085,0.1657061978228188,0.16310466889147146,0.15655037356891163,0.13288224532009138,0.13259267946817926,0.1244482413024704,0.11820189566392666,0.11194970732799524,0.11157920269535457,0.10724909639517652,0.10447297715132582,0.10309358040750179,0.09009124066528557,0.08442935372046888,0.07716092162360995,0.07247097269460823,0.06958956616306469,0.0694336343572411,0.06868706673912178,0.06799293109146934,0.06655755882760606,0.05973654188568199,0.05220035635645335,0.05146149417321492,0.04794969666599141,0.04691068111229731,0.04541213975754604,0.04340768303995053,0.04146986384621127,0.03835789148212515,0.03504467379599322,0.031740785363201164,0.03165133547732712,0.026704521907256352,0.025921409834540186,0.024870456653623488,0.02312322077811304,0.02196372786301458,0.021901088590589715,0.021359991896877102,0.02071494066594876,0.01961675427279803,0.01886375025322259,0.01834930856905247,0.015446118531359049,0.015332720701408668,0.014302801587035788,0.012257306138115598,0.012207994370461986,0.011854815494023948,0.011360365067010695,0.010976909939196946,0.010697988079879733,0.010539390773101898,0.010372796963461313,0.010123572624238998,0.010028947340363147,0.009537162414304145,0.008994449053240861,0.008043241373774717,0.007225442906014907,0.006405198793061169,0.00587476410316555,0.0057135012954334635,0.005553571238178502,0.005335000159930057,0.005300347981092544,0.0052270473712829595,0.00509910332547899,0.0049374749252513225,0.004226403826856576,0.0037274533750748986,0.003221257903210328,0.0030480003411841217,0.0030173470802102543,0.0029786973163736393,0.0029520423068311458,0.002577465970166322,0.0021452201242378077,0.0016166263287522241,0.001583307566824107,0.0013234193801268071],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,11.955411136733805,10.140120301236877,9.304236345164567,9.279498798600248,9.190546838464144,9.010062730805824,8.947106158584766,8.784683362629211,8.212494557417232,8.208721033365048,8.011626969408653,7.857589782457951,7.709164503072036,7.700198351905307,7.595410491686959,7.528228862621147,7.494847688313364,7.178000677299188,7.041121736466111,6.867281611327023,6.753785618680556,6.684056054570963,6.680282530518779,6.660544097015046,6.6454177484639825,6.6106819757784905,6.445614487752173,6.261969650545871,6.245359694247795,6.160374772217832,6.134089113221847,6.09896631242844,6.050458789569593,6.003563883827063,5.928254664495009,5.848075341471675,5.768121784844624,5.765186821692925,5.645595136346778,5.626663011401203,5.601860960152231,5.5595781393623716,5.531518601538437,5.530002741449097,5.516908290464595,5.5012981567786365,5.474722226701714,5.45649965328732,5.4440502491493445,5.373417619454613,5.370676170356872,5.345777362080921,5.296624792375546,5.295431455709471,5.286884584992985,5.2749189659899045,5.265372272661302,5.258889551853703,5.255051523116866,5.251019980326071,5.244988792311042,5.2426988760058695,5.230797761687443,5.217445291964329,5.194449371885633,5.174678686039574,5.155004757220493,5.142168324974601,5.138265791553112,5.134395510473948,5.129106126332425,5.128138556062634,5.12649368660399,5.123397461740659,5.119365918949864,5.102175420489913,5.090113044459854,5.077953911402815,5.073761106900388,5.073019303026882,5.072083985099418,5.071438938252891,5.06231152537453,5.051861766460789,5.039122091241876,5.038315782683718,5.0319943235877505],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 1,587,482\u003cbr\u003eGPU memory: 57.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,157\u003cbr\u003etok\u002fs: 1,104,159\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,594\u003cbr\u003etok\u002fs: 815,985\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,335\u003cbr\u003etok\u002fs: 683,290\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,327\u003cbr\u003etok\u002fs: 679,363\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 665,242\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,243\u003cbr\u003etok\u002fs: 636,590\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,224\u003cbr\u003etok\u002fs: 626,596\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 600,812\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 996\u003cbr\u003etok\u002fs: 509,978\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 995\u003cbr\u003etok\u002fs: 509,379\u003cbr\u003eGPU memory: 33.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 934\u003cbr\u003etok\u002fs: 478,090\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 886\u003cbr\u003etok\u002fs: 453,637\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 840\u003cbr\u003etok\u002fs: 430,075\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 837\u003cbr\u003etok\u002fs: 428,652\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 805\u003cbr\u003etok\u002fs: 412,017\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 784\u003cbr\u003etok\u002fs: 401,352\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 396,052\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,754\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 324,024\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,428\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 544\u003cbr\u003etok\u002fs: 278,410\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 522\u003cbr\u003etok\u002fs: 267,341\u003cbr\u003eGPU memory: 17.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 521\u003cbr\u003etok\u002fs: 266,742\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 515\u003cbr\u003etok\u002fs: 263,608\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 510\u003cbr\u003etok\u002fs: 261,207\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 499\u003cbr\u003etok\u002fs: 255,693\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 448\u003cbr\u003etok\u002fs: 229,489\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,335\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,699\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 360\u003cbr\u003etok\u002fs: 184,207\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 352\u003cbr\u003etok\u002fs: 180,035\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 341\u003cbr\u003etok\u002fs: 174,459\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 166,758\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 159,314\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 288\u003cbr\u003etok\u002fs: 147,359\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 263\u003cbr\u003etok\u002fs: 134,630\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 121,938\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 121,472\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 102,487\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 194\u003cbr\u003etok\u002fs: 99,482\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 187\u003cbr\u003etok\u002fs: 95,544\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 88,832\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 165\u003cbr\u003etok\u002fs: 84,378\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 84,137\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 82,058\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 79,580\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 147\u003cbr\u003etok\u002fs: 75,361\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 142\u003cbr\u003etok\u002fs: 72,468\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,492\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 59,279\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 115\u003cbr\u003etok\u002fs: 58,844\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 54,892\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 47,089\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,899\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 89\u003cbr\u003etok\u002fs: 45,542\u003cbr\u003eGPU memory: 10.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 43,643\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 82\u003cbr\u003etok\u002fs: 42,127\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 41,098\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,489\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,849\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 38,892\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,528\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 36,639\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 34,519\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 30,868\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 27,730\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,607\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,569\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,949\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,335\u003cbr\u003eGPU memory: 11.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,495\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,342\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 20,081\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,589\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,949\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,220\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,305\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,375\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,709\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,592\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,443\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,341\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19\u003cbr\u003etok\u002fs: 9,892\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 8,233\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,211\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,083\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,079\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 18.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 3,101\u003cbr\u003etok\u002fs: 1,587,482\u003cbr\u003eGPU memory: 57.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 2,157\u003cbr\u003etok\u002fs: 1,104,159\u003cbr\u003eGPU memory: 26.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,594\u003cbr\u003etok\u002fs: 815,985\u003cbr\u003eGPU memory: 31.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,335\u003cbr\u003etok\u002fs: 683,290\u003cbr\u003eGPU memory: 46.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,327\u003cbr\u003etok\u002fs: 679,363\u003cbr\u003eGPU memory: 33.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,299\u003cbr\u003etok\u002fs: 665,242\u003cbr\u003eGPU memory: 23.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,243\u003cbr\u003etok\u002fs: 636,590\u003cbr\u003eGPU memory: 19.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,224\u003cbr\u003etok\u002fs: 626,596\u003cbr\u003eGPU memory: 52.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 1,173\u003cbr\u003etok\u002fs: 600,812\u003cbr\u003eGPU memory: 49.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 996\u003cbr\u003etok\u002fs: 509,978\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 995\u003cbr\u003etok\u002fs: 509,379\u003cbr\u003eGPU memory: 33.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 934\u003cbr\u003etok\u002fs: 478,090\u003cbr\u003eGPU memory: 23.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 886\u003cbr\u003etok\u002fs: 453,637\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 840\u003cbr\u003etok\u002fs: 430,075\u003cbr\u003eGPU memory: 25.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 837\u003cbr\u003etok\u002fs: 428,652\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 805\u003cbr\u003etok\u002fs: 412,017\u003cbr\u003eGPU memory: 18.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 784\u003cbr\u003etok\u002fs: 401,352\u003cbr\u003eGPU memory: 37.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 774\u003cbr\u003etok\u002fs: 396,052\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 675\u003cbr\u003etok\u002fs: 345,754\u003cbr\u003eGPU memory: 13.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 633\u003cbr\u003etok\u002fs: 324,024\u003cbr\u003eGPU memory: 16.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 579\u003cbr\u003etok\u002fs: 296,428\u003cbr\u003eGPU memory: 28.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 544\u003cbr\u003etok\u002fs: 278,410\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 522\u003cbr\u003etok\u002fs: 267,341\u003cbr\u003eGPU memory: 17.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 521\u003cbr\u003etok\u002fs: 266,742\u003cbr\u003eGPU memory: 12.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 515\u003cbr\u003etok\u002fs: 263,608\u003cbr\u003eGPU memory: 19.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 510\u003cbr\u003etok\u002fs: 261,207\u003cbr\u003eGPU memory: 13.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 499\u003cbr\u003etok\u002fs: 255,693\u003cbr\u003eGPU memory: 18.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 448\u003cbr\u003etok\u002fs: 229,489\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 391\u003cbr\u003etok\u002fs: 200,335\u003cbr\u003eGPU memory: 11.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 386\u003cbr\u003etok\u002fs: 197,699\u003cbr\u003eGPU memory: 49.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 360\u003cbr\u003etok\u002fs: 184,207\u003cbr\u003eGPU memory: 25.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 352\u003cbr\u003etok\u002fs: 180,035\u003cbr\u003eGPU memory: 16.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 341\u003cbr\u003etok\u002fs: 174,459\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 326\u003cbr\u003etok\u002fs: 166,758\u003cbr\u003eGPU memory: 17.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 311\u003cbr\u003etok\u002fs: 159,314\u003cbr\u003eGPU memory: 10.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 288\u003cbr\u003etok\u002fs: 147,359\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 263\u003cbr\u003etok\u002fs: 134,630\u003cbr\u003eGPU memory: 16.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 121,938\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 237\u003cbr\u003etok\u002fs: 121,472\u003cbr\u003eGPU memory: 8.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 200\u003cbr\u003etok\u002fs: 102,487\u003cbr\u003eGPU memory: 16.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 194\u003cbr\u003etok\u002fs: 99,482\u003cbr\u003eGPU memory: 9.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 187\u003cbr\u003etok\u002fs: 95,544\u003cbr\u003eGPU memory: 13.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 174\u003cbr\u003etok\u002fs: 88,832\u003cbr\u003eGPU memory: 10.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 165\u003cbr\u003etok\u002fs: 84,378\u003cbr\u003eGPU memory: 6.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 164\u003cbr\u003etok\u002fs: 84,137\u003cbr\u003eGPU memory: 22.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 160\u003cbr\u003etok\u002fs: 82,058\u003cbr\u003eGPU memory: 19.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 79,580\u003cbr\u003eGPU memory: 18.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 147\u003cbr\u003etok\u002fs: 75,361\u003cbr\u003eGPU memory: 9.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 142\u003cbr\u003etok\u002fs: 72,468\u003cbr\u003eGPU memory: 12.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,492\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 116\u003cbr\u003etok\u002fs: 59,279\u003cbr\u003eGPU memory: 18.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 115\u003cbr\u003etok\u002fs: 58,844\u003cbr\u003eGPU memory: 8.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 107\u003cbr\u003etok\u002fs: 54,892\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 47,089\u003cbr\u003eGPU memory: 6.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 92\u003cbr\u003etok\u002fs: 46,899\u003cbr\u003eGPU memory: 11.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 89\u003cbr\u003etok\u002fs: 45,542\u003cbr\u003eGPU memory: 10.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 43,643\u003cbr\u003eGPU memory: 4.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 82\u003cbr\u003etok\u002fs: 42,127\u003cbr\u003eGPU memory: 4.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 80\u003cbr\u003etok\u002fs: 41,098\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 79\u003cbr\u003etok\u002fs: 40,489\u003cbr\u003eGPU memory: 9.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,849\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 76\u003cbr\u003etok\u002fs: 38,892\u003cbr\u003eGPU memory: 21.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,528\u003cbr\u003eGPU memory: 5.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 36,639\u003cbr\u003eGPU memory: 22.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 34,519\u003cbr\u003eGPU memory: 9.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 30,868\u003cbr\u003eGPU memory: 5.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 27,730\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,607\u003cbr\u003eGPU memory: 6.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 44\u003cbr\u003etok\u002fs: 22,569\u003cbr\u003eGPU memory: 11.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,949\u003cbr\u003eGPU memory: 5.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 42\u003cbr\u003etok\u002fs: 21,335\u003cbr\u003eGPU memory: 11.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,495\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 20,342\u003cbr\u003eGPU memory: 3.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 39\u003cbr\u003etok\u002fs: 20,081\u003cbr\u003eGPU memory: 29.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,589\u003cbr\u003eGPU memory: 27.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,949\u003cbr\u003eGPU memory: 5.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 32\u003cbr\u003etok\u002fs: 16,220\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,305\u003cbr\u003eGPU memory: 2.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 24\u003cbr\u003etok\u002fs: 12,375\u003cbr\u003eGPU memory: 6.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,709\u003cbr\u003eGPU memory: 6.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,592\u003cbr\u003eGPU memory: 15.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,443\u003cbr\u003eGPU memory: 3.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,341\u003cbr\u003eGPU memory: 14.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 19\u003cbr\u003etok\u002fs: 9,892\u003cbr\u003eGPU memory: 3.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 8,233\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,211\u003cbr\u003eGPU memory: 8.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,083\u003cbr\u003eGPU memory: 3.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 10\u003cbr\u003etok\u002fs: 5,079\u003cbr\u003eGPU memory: 1.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x3","yaxis":"y3"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 1\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8144999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.8014999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7884999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999,0.7754999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 2\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529],"y":[0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7294999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7164999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.7034999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6904999999999998,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6774999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999,0.6644999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.430437671791464,0.3785799745795191,0.3737772728493057,0.15851632585253872,0.10925181985682786,0.09973721569456612],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[5.518652642306012,5.512611005968846,5.457344591643617,5.191003057213568,5.131642160430921,5.1201776095501526],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 285\u003cbr\u003etok\u002fs: 9,120\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 282\u003cbr\u003etok\u002fs: 9,014\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 251\u003cbr\u003etok\u002fs: 8,042\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 3,359\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 2,315\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 2,113\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 285\u003cbr\u003etok\u002fs: 9,120\u003cbr\u003eGPU memory: 66.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 282\u003cbr\u003etok\u002fs: 9,014\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 251\u003cbr\u003etok\u002fs: 8,042\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 105\u003cbr\u003etok\u002fs: 3,359\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 72\u003cbr\u003etok\u002fs: 2,315\u003cbr\u003eGPU memory: 58.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 2,113\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 4\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.6054999999999998,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5924999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5794999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5664999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5534999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5404999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5274999999999999,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998,0.5144999999999998],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8937196822593433,0.4654302715437823,0.4497991361343522,0.3688497072077426,0.39842027365813876,0.3434488711129117,0.37168876672607004,0.353223389709176,0.2031896577763011,0.2014679674993204,0.15668891775153293,0.1563113540943003,0.10419246684991089,0.09605219439997584,0.0921104298184674,0.08081372519406772],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[7.42025767942932,6.121633425535013,6.083964186926773,5.998871742611734,5.960147037414471,5.930084437327122,5.895727180084437,5.864390741010336,5.489663706507497,5.4855146309506475,5.377602271072936,5.376692386082399,5.251091861988645,5.231474741592662,5.221975542291454,5.194751783374581],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 19,724\u003cbr\u003eGPU memory: 64.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 298\u003cbr\u003etok\u002fs: 19,061\u003cbr\u003eGPU memory: 65.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 17,565\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,884\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 16,355\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 246\u003cbr\u003etok\u002fs: 15,751\u003cbr\u003eGPU memory: 61.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 15,200\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 189\u003cbr\u003etok\u002fs: 12,109\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 169\u003cbr\u003etok\u002fs: 10,799\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 8,611\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 133\u003cbr\u003etok\u002fs: 8,538\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,640\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,624\u003cbr\u003eGPU memory: 56.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 98\u003cbr\u003etok\u002fs: 6,280\u003cbr\u003eGPU memory: 74.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 4,415\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 4,070\u003cbr\u003eGPU memory: 43.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 61\u003cbr\u003etok\u002fs: 3,903\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 3,425\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 665\u003cbr\u003etok\u002fs: 42,559\u003cbr\u003eGPU memory: 63.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 19,724\u003cbr\u003eGPU memory: 64.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 298\u003cbr\u003etok\u002fs: 19,061\u003cbr\u003eGPU memory: 65.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 274\u003cbr\u003etok\u002fs: 17,565\u003cbr\u003eGPU memory: 41.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 264\u003cbr\u003etok\u002fs: 16,884\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 256\u003cbr\u003etok\u002fs: 16,355\u003cbr\u003eGPU memory: 62.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 246\u003cbr\u003etok\u002fs: 15,751\u003cbr\u003eGPU memory: 61.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 238\u003cbr\u003etok\u002fs: 15,200\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 189\u003cbr\u003etok\u002fs: 12,109\u003cbr\u003eGPU memory: 64.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 169\u003cbr\u003etok\u002fs: 10,799\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 135\u003cbr\u003etok\u002fs: 8,611\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 133\u003cbr\u003etok\u002fs: 8,538\u003cbr\u003eGPU memory: 48.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,640\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 6,624\u003cbr\u003eGPU memory: 56.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 98\u003cbr\u003etok\u002fs: 6,280\u003cbr\u003eGPU memory: 74.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 4,415\u003cbr\u003eGPU memory: 46.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 4,070\u003cbr\u003eGPU memory: 43.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 61\u003cbr\u003etok\u002fs: 3,903\u003cbr\u003eGPU memory: 35.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 54\u003cbr\u003etok\u002fs: 3,425\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 8\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.5294117647058824,0.5882352941176471,0.8823529411764706,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826],"y":[0.4814999999999999,0.4814999999999999,0.4814999999999999,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.46849999999999986,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.45549999999999985,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4424999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.4294999999999999,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.41649999999999987,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.4034999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3904999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3774999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999,0.3644999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[1.0,0.8492346201038458,0.9448606034977498,0.7116470836983116,0.6715951309390763,0.45570423173347024,0.42007732503700124,0.393768689401033,0.3782432718156281,0.3638052375630531,0.3619778294620473,0.3446703114145045,0.3041111741554673,0.2946362591042208,0.25812087726842425,0.1852176276920289,0.18367716797051983,0.17241066843869876,0.1559639955296463,0.15466517654876613,0.13770501706587732,0.12222490711934034,0.10114175249947142,0.097351013380856,0.09333373606790105,0.09097773884676957,0.08283746639683451,0.07791403630652129,0.04542845923822757,0.04539825414564896,0.02355997221131483,0.02235176850817048],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[9.819769981074392,9.599577813364391,9.554010773038287,8.429975251128257,8.236934051535886,7.196389576357548,7.024676080943369,6.897874508662105,6.823045567040326,6.753457562964042,6.744649876255641,6.661231620323191,6.647110205270054,6.595792691803756,6.398020090260591,5.892706361915854,5.885281700393071,5.83097976415781,5.75171058378221,5.745450575047314,5.663706507497452,5.5890959382734025,5.487479982530208,5.469209491920221,5.44984713932159,5.438491774639686,5.399257533847722,5.375527733294511,5.218954724122871,5.2188091425243845,5.113553646819042,5.107730382879604],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,754\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 632\u003cbr\u003etok\u002fs: 80,882\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 626\u003cbr\u003etok\u002fs: 80,081\u003cbr\u003eGPU memory: 64.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 471\u003cbr\u003etok\u002fs: 60,315\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 445\u003cbr\u003etok\u002fs: 56,920\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 38,623\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 35,603\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 33,373\u003cbr\u003eGPU memory: 62.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,058\u003cbr\u003eGPU memory: 50.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 30,834\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 30,679\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 228\u003cbr\u003etok\u002fs: 29,212\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 226\u003cbr\u003etok\u002fs: 28,964\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 219\u003cbr\u003etok\u002fs: 28,061\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 24,584\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 123\u003cbr\u003etok\u002fs: 15,698\u003cbr\u003eGPU memory: 44.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 122\u003cbr\u003etok\u002fs: 15,567\u003cbr\u003eGPU memory: 38.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 14,612\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 13,219\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,108\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 11,671\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 10,359\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 8,572\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 8,251\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 7,910\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 7,711\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 7,021\u003cbr\u003eGPU memory: 32.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,604\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,850\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,848\u003cbr\u003eGPU memory: 35.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 1,997\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15\u003cbr\u003etok\u002fs: 1,894\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353],"y":[0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.33149999999999985,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984,0.31849999999999984],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 34.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 662\u003cbr\u003etok\u002fs: 84,754\u003cbr\u003eGPU memory: 61.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 29.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 632\u003cbr\u003etok\u002fs: 80,882\u003cbr\u003eGPU memory: 51.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 32.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 626\u003cbr\u003etok\u002fs: 80,081\u003cbr\u003eGPU memory: 64.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 471\u003cbr\u003etok\u002fs: 60,315\u003cbr\u003eGPU memory: 60.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 23.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 445\u003cbr\u003etok\u002fs: 56,920\u003cbr\u003eGPU memory: 58.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 15.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 302\u003cbr\u003etok\u002fs: 38,623\u003cbr\u003eGPU memory: 65.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 278\u003cbr\u003etok\u002fs: 35,603\u003cbr\u003eGPU memory: 57.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 261\u003cbr\u003etok\u002fs: 33,373\u003cbr\u003eGPU memory: 62.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 250\u003cbr\u003etok\u002fs: 32,058\u003cbr\u003eGPU memory: 50.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 241\u003cbr\u003etok\u002fs: 30,834\u003cbr\u003eGPU memory: 60.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 240\u003cbr\u003etok\u002fs: 30,679\u003cbr\u003eGPU memory: 36.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 11.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 228\u003cbr\u003etok\u002fs: 29,212\u003cbr\u003eGPU memory: 40.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 226\u003cbr\u003etok\u002fs: 28,964\u003cbr\u003eGPU memory: 63.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 219\u003cbr\u003etok\u002fs: 28,061\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 192\u003cbr\u003etok\u002fs: 24,584\u003cbr\u003eGPU memory: 32.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 123\u003cbr\u003etok\u002fs: 15,698\u003cbr\u003eGPU memory: 44.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 122\u003cbr\u003etok\u002fs: 15,567\u003cbr\u003eGPU memory: 38.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 114\u003cbr\u003etok\u002fs: 14,612\u003cbr\u003eGPU memory: 49.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 103\u003cbr\u003etok\u002fs: 13,219\u003cbr\u003eGPU memory: 56.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 102\u003cbr\u003etok\u002fs: 13,108\u003cbr\u003eGPU memory: 36.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 11,671\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 81\u003cbr\u003etok\u002fs: 10,359\u003cbr\u003eGPU memory: 45.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 67\u003cbr\u003etok\u002fs: 8,572\u003cbr\u003eGPU memory: 63.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 8,251\u003cbr\u003eGPU memory: 38.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 62\u003cbr\u003etok\u002fs: 7,910\u003cbr\u003eGPU memory: 24.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 7,711\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 55\u003cbr\u003etok\u002fs: 7,021\u003cbr\u003eGPU memory: 32.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 52\u003cbr\u003etok\u002fs: 6,604\u003cbr\u003eGPU memory: 59.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,850\u003cbr\u003eGPU memory: 24.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 30\u003cbr\u003etok\u002fs: 3,848\u003cbr\u003eGPU memory: 35.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 16\u003cbr\u003etok\u002fs: 1,997\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 15\u003cbr\u003etok\u002fs: 1,894\u003cbr\u003eGPU memory: 30.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 64\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 256\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 128\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 16\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 128\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824],"y":[0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.3054999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2924999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2794999999999998,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2664999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.2534999999999999,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.24049999999999988,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.22749999999999987,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.21449999999999986,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.20149999999999985,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983,0.18849999999999983],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.8966834808348688,0.8923943576887063,0.7772521449060076,0.8238287975352645,0.711881950850316,0.62592503096022,0.42895762225511214,0.4050200863865647,0.38852810583864444,0.35629927205726886,0.34992599752318243,0.30011961419770816,0.2879567799829875,0.2752966807230242,0.26260970227142616,0.26520071284018487,0.2336061860029601,0.1666263932098952,0.1569758661310297,0.1379315552602169,0.12773733651493643,0.11245355967016038,0.1049475941643761,0.10026580481469176,0.09922372912072976,0.09105325157821609,0.0889993052828707,0.08745884556136165,0.06758389464463709,0.061074697193946904,0.05578880599269037,0.04403902497961156,0.03176065484640711,0.020569668046032562,0.01614462198326638],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[13.643616246906392,13.60227107293638,13.419420585238026,12.941330615810163,12.71131169020236,11.033629349250255,9.134954141796477,8.904207308196245,8.745232202649586,8.434561071480564,8.373125636919493,8.25098267578978,8.119231329159994,7.982093463386228,7.84466443441549,7.556412869413306,7.251856165380696,6.606201776095501,6.513175134662978,6.329596738972194,6.231329159994177,6.084000582326394,6.0116465278788755,5.966516232348232,5.956471102052701,5.8777114572718006,5.857912359877711,5.843063036832144,5.6514776532246325,5.588731984277187,5.5377784248071045,5.424515941185034,5.306158101615956,5.198282137137865,5.155626728781482],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 594\u003cbr\u003etok\u002fs: 151,995\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 591\u003cbr\u003etok\u002fs: 151,268\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 148,052\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 545\u003cbr\u003etok\u002fs: 139,645\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 530\u003cbr\u003etok\u002fs: 135,601\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 414\u003cbr\u003etok\u002fs: 106,099\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 284\u003cbr\u003etok\u002fs: 72,712\u003cbr\u003eGPU memory: 64.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 71,744\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 268\u003cbr\u003etok\u002fs: 68,654\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 65,859\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,396\u003cbr\u003eGPU memory: 35.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 232\u003cbr\u003etok\u002fs: 59,315\u003cbr\u003eGPU memory: 52.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 223\u003cbr\u003etok\u002fs: 57,167\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 214\u003cbr\u003etok\u002fs: 54,851\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 205\u003cbr\u003etok\u002fs: 52,439\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 195\u003cbr\u003etok\u002fs: 50,022\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 44,954\u003cbr\u003eGPU memory: 58.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,598\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,244\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,609\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,380\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 21,652\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 74\u003cbr\u003etok\u002fs: 19,062\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 17,789\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 36.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,819\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,434\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 59\u003cbr\u003etok\u002fs: 15,086\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 58\u003cbr\u003etok\u002fs: 14,825\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,456\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 10,353\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 9,457\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 7,465\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 5,384\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 3,487\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 2,737\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882],"y":[0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.15549999999999992,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1424999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 594\u003cbr\u003etok\u002fs: 151,995\u003cbr\u003eGPU memory: 64.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 30.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 591\u003cbr\u003etok\u002fs: 151,268\u003cbr\u003eGPU memory: 56.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 26.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 578\u003cbr\u003etok\u002fs: 148,052\u003cbr\u003eGPU memory: 53.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 28.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 545\u003cbr\u003etok\u002fs: 139,645\u003cbr\u003eGPU memory: 62.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 24.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 530\u003cbr\u003etok\u002fs: 135,601\u003cbr\u003eGPU memory: 65.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 21.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 414\u003cbr\u003etok\u002fs: 106,099\u003cbr\u003eGPU memory: 55.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 284\u003cbr\u003etok\u002fs: 72,712\u003cbr\u003eGPU memory: 64.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 14.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 280\u003cbr\u003etok\u002fs: 71,744\u003cbr\u003eGPU memory: 64.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 268\u003cbr\u003etok\u002fs: 68,654\u003cbr\u003eGPU memory: 48.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 13.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 257\u003cbr\u003etok\u002fs: 65,859\u003cbr\u003eGPU memory: 37.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 236\u003cbr\u003etok\u002fs: 60,396\u003cbr\u003eGPU memory: 35.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 232\u003cbr\u003etok\u002fs: 59,315\u003cbr\u003eGPU memory: 52.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 10.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 223\u003cbr\u003etok\u002fs: 57,167\u003cbr\u003eGPU memory: 62.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 214\u003cbr\u003etok\u002fs: 54,851\u003cbr\u003eGPU memory: 43.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 256\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 1\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 205\u003cbr\u003etok\u002fs: 52,439\u003cbr\u003eGPU memory: 27.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 195\u003cbr\u003etok\u002fs: 50,022\u003cbr\u003eGPU memory: 33.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 9.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 176\u003cbr\u003etok\u002fs: 44,954\u003cbr\u003eGPU memory: 58.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 155\u003cbr\u003etok\u002fs: 39,598\u003cbr\u003eGPU memory: 60.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 110\u003cbr\u003etok\u002fs: 28,244\u003cbr\u003eGPU memory: 47.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 104\u003cbr\u003etok\u002fs: 26,609\u003cbr\u003eGPU memory: 47.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 91\u003cbr\u003etok\u002fs: 23,380\u003cbr\u003eGPU memory: 42.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 85\u003cbr\u003etok\u002fs: 21,652\u003cbr\u003eGPU memory: 51.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 74\u003cbr\u003etok\u002fs: 19,062\u003cbr\u003eGPU memory: 42.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 69\u003cbr\u003etok\u002fs: 17,789\u003cbr\u003eGPU memory: 44.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,996\u003cbr\u003eGPU memory: 36.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 66\u003cbr\u003etok\u002fs: 16,819\u003cbr\u003eGPU memory: 25.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 60\u003cbr\u003etok\u002fs: 15,434\u003cbr\u003eGPU memory: 22.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 59\u003cbr\u003etok\u002fs: 15,086\u003cbr\u003eGPU memory: 30.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 58\u003cbr\u003etok\u002fs: 14,825\u003cbr\u003eGPU memory: 31.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 11,456\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 40\u003cbr\u003etok\u002fs: 10,353\u003cbr\u003eGPU memory: 25.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 9,457\u003cbr\u003eGPU memory: 26.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 7,465\u003cbr\u003eGPU memory: 21.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 5,384\u003cbr\u003eGPU memory: 17.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 3,487\u003cbr\u003eGPU memory: 19.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 2,737\u003cbr\u003eGPU memory: 13.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 64\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 32\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.47058823529411764,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471],"y":[0.15549999999999992,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.1294999999999999,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.11649999999999987,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.10349999999999986,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.09049999999999984,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.07749999999999983,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982,0.06449999999999982],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"cmax":1,"cmin":0,"color":[0.5186969523061589,0.4655812970066753,0.37273084242003207,0.24301507234119674,0.24029661400912197,0.22744434711692393,0.2080526776814571,0.20658773069139458,0.18086809436070922,0.15156915455945874,0.14572446914549794,0.13992509137040504,0.12671036336726374,0.1176186305011025,0.11357114809556892,0.10624641314525628,0.09633914277947263,0.086582897876582,0.08570695019180234,0.07699278098287371,0.07409309209532727,0.07308122149394387,0.06847494487570605,0.06560546108073821,0.06450297520161899,0.0624641314525629,0.05734436826048872,0.055637780529797336,0.05291932219772253,0.04409943516476879,0.04296674419307095,0.04094300299030417,0.03449421572477119,0.03376929350288459,0.03228924396653276,0.03126227081886006,0.030703476606155803,0.02792460808892379,0.02562902105294953,0.021747666656598302,0.021445615730812218,0.01780590207508986,0.016340955085027337,0.01615972452955568,0.011145679161506628],"colorscale":[[0,"rgb(78, 165, 183)"],[0.5,"rgb(206, 192, 250)"],[1,"rgb(232, 137, 171)"]],"opacity":1,"showscale":false,"size":[15.0,13.975979036249818,12.185907701266562,9.685107002474886,9.632697627019946,9.384917746396855,9.011064201484931,8.982821371378657,8.486970446935509,7.922113844810016,7.80943368758189,7.6976270199446795,7.442859222594264,7.267578978017179,7.189547241228709,7.048333090697335,6.857330033483768,6.669238608239919,6.652351142815548,6.4843499781627605,6.428446644344155,6.408938710147037,6.320133935070608,6.264812927645945,6.243558014266997,6.20425098267579,6.105546658902314,6.07264521764449,6.020235842189547,5.850196535157956,5.828359295385063,5.789343426990828,5.665016741883826,5.651040908429175,5.622506915125928,5.602707817731838,5.5919347794438785,5.538360751201048,5.494103945261319,5.41927500363954,5.413451739700102,5.343281409229873,5.315038579123598,5.3115446207599355,5.214878439365264],"symbol":"circle"},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 175,846\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 157,839\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 247\u003cbr\u003etok\u002fs: 126,362\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,386\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 81,464\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 77,107\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,533\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 137\u003cbr\u003etok\u002fs: 70,036\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,317\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,384\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 49,403\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 47,437\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 84\u003cbr\u003etok\u002fs: 42,957\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,875\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,502\u003cbr\u003eGPU memory: 45.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 36,019\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 32,660\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,353\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,056\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 51\u003cbr\u003etok\u002fs: 26,102\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 25,119\u003cbr\u003eGPU memory: 66.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,776\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 23,214\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 22,241\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,868\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 21,176\u003cbr\u003eGPU memory: 47.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,441\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,862\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 35\u003cbr\u003etok\u002fs: 17,940\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 14,950\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,566\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 27\u003cbr\u003etok\u002fs: 13,880\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,694\u003cbr\u003eGPU memory: 30.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,448\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,947\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,598\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,409\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18\u003cbr\u003etok\u002fs: 9,467\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,689\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,373\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,270\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,036\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,540\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,478\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7\u003cbr\u003etok\u002fs: 3,779\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411],"y":[0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.0314999999999999,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.01849999999999989,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988,0.00549999999999988],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"text","marker":{"color":"rgb(100,100,100)","line":{"width":0.1},"size":5,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"text":["\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 17.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 343\u003cbr\u003etok\u002fs: 175,846\u003cbr\u003eGPU memory: 53.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 16.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 308\u003cbr\u003etok\u002fs: 157,839\u003cbr\u003eGPU memory: 66.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 12.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 247\u003cbr\u003etok\u002fs: 126,362\u003cbr\u003eGPU memory: 54.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 161\u003cbr\u003etok\u002fs: 82,386\u003cbr\u003eGPU memory: 39.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 8.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 159\u003cbr\u003etok\u002fs: 81,464\u003cbr\u003eGPU memory: 61.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 151\u003cbr\u003etok\u002fs: 77,107\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 138\u003cbr\u003etok\u002fs: 70,533\u003cbr\u003eGPU memory: 50.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 7.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 137\u003cbr\u003etok\u002fs: 70,036\u003cbr\u003eGPU memory: 59.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 6.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 120\u003cbr\u003etok\u002fs: 61,317\u003cbr\u003eGPU memory: 51.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 100\u003cbr\u003etok\u002fs: 51,384\u003cbr\u003eGPU memory: 46.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 5.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 96\u003cbr\u003etok\u002fs: 49,403\u003cbr\u003eGPU memory: 56.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 93\u003cbr\u003etok\u002fs: 47,437\u003cbr\u003eGPU memory: 43.6 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 84\u003cbr\u003etok\u002fs: 42,957\u003cbr\u003eGPU memory: 41.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 4.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 78\u003cbr\u003etok\u002fs: 39,875\u003cbr\u003eGPU memory: 49.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 75\u003cbr\u003etok\u002fs: 38,502\u003cbr\u003eGPU memory: 45.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 70\u003cbr\u003etok\u002fs: 36,019\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 64\u003cbr\u003etok\u002fs: 32,660\u003cbr\u003eGPU memory: 42.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 3.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,353\u003cbr\u003eGPU memory: 60.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 57\u003cbr\u003etok\u002fs: 29,056\u003cbr\u003eGPU memory: 30.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 51\u003cbr\u003etok\u002fs: 26,102\u003cbr\u003eGPU memory: 29.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 49\u003cbr\u003etok\u002fs: 25,119\u003cbr\u003eGPU memory: 66.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 48\u003cbr\u003etok\u002fs: 24,776\u003cbr\u003eGPU memory: 39.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.3%\u003cbr\u003etok\u002fs\u002fgpu:\t 45\u003cbr\u003etok\u002fs: 23,214\u003cbr\u003eGPU memory: 35.3 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 22,241\u003cbr\u003eGPU memory: 57.1 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 43\u003cbr\u003etok\u002fs: 21,868\u003cbr\u003eGPU memory: 34.8 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 41\u003cbr\u003etok\u002fs: 21,176\u003cbr\u003eGPU memory: 47.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 2.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 38\u003cbr\u003etok\u002fs: 19,441\u003cbr\u003eGPU memory: 23.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 37\u003cbr\u003etok\u002fs: 18,862\u003cbr\u003eGPU memory: 44.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.8%\u003cbr\u003etok\u002fs\u002fgpu:\t 35\u003cbr\u003etok\u002fs: 17,940\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 29\u003cbr\u003etok\u002fs: 14,950\u003cbr\u003eGPU memory: 23.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.5%\u003cbr\u003etok\u002fs\u002fgpu:\t 28\u003cbr\u003etok\u002fs: 14,566\u003cbr\u003eGPU memory: 21.7 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 27\u003cbr\u003etok\u002fs: 13,880\u003cbr\u003eGPU memory: 22.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 23\u003cbr\u003etok\u002fs: 11,694\u003cbr\u003eGPU memory: 30.0 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.2%\u003cbr\u003etok\u002fs\u002fgpu:\t 22\u003cbr\u003etok\u002fs: 11,448\u003cbr\u003eGPU memory: 49.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,947\u003cbr\u003eGPU memory: 45.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 21\u003cbr\u003etok\u002fs: 10,598\u003cbr\u003eGPU memory: 16.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.1%\u003cbr\u003etok\u002fs\u002fgpu:\t 20\u003cbr\u003etok\u002fs: 10,409\u003cbr\u003eGPU memory: 24.4 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 1.0%\u003cbr\u003etok\u002fs\u002fgpu:\t 18\u003cbr\u003etok\u002fs: 9,467\u003cbr\u003eGPU memory: 17.9 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.9%\u003cbr\u003etok\u002fs\u002fgpu:\t 17\u003cbr\u003etok\u002fs: 8,689\u003cbr\u003eGPU memory: 30.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,373\u003cbr\u003eGPU memory: 13.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.7%\u003cbr\u003etok\u002fs\u002fgpu:\t 14\u003cbr\u003etok\u002fs: 7,270\u003cbr\u003eGPU memory: 18.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 12\u003cbr\u003etok\u002fs: 6,036\u003cbr\u003eGPU memory: 26.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 64\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,540\u003cbr\u003eGPU memory: 12.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.6%\u003cbr\u003etok\u002fs\u002fgpu:\t 11\u003cbr\u003etok\u002fs: 5,478\u003cbr\u003eGPU memory: 15.2 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 128\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t 0.4%\u003cbr\u003etok\u002fs\u002fgpu:\t 7\u003cbr\u003etok\u002fs: 3,779\u003cbr\u003eGPU memory: 9.5 GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 2\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 16\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 4\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 16\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 16\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 1\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 1\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 32\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 256\u003cbr\u003ePP: 2\u003cbr\u003eTP: 1\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 2\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 64\u003cbr\u003ePP: 4\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 2\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 4\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 8\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 2\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 4\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 32\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 2\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 4\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 4\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 8\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 16\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 8\u003cbr\u003ePP: 32\u003cbr\u003eTP: 2\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 4\u003cbr\u003ePP: 8\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 16\u003cbr\u003eGradAcc: 8\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 8\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 32\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 2\u003cbr\u003ePP: 32\u003cbr\u003eTP: 8\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 4\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 32\u003cbr\u003ePP: 1\u003cbr\u003eTP: 16\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 8\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 1\u003cbr\u003eTP: 32\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 16\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 16\u003cbr\u003ePP: 8\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 2\u003cbr\u003eGradAcc: 1\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 0\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB","\u003cb\u003eConfiguration:\u003c\u002fb\u003e\u003cbr\u003eNodes: 64\u003cbr\u003eMBS: 1\u003cbr\u003eGradAcc: 2\u003cbr\u003eGBS: 256\u003cbr\u003eDP: 128\u003cbr\u003ePP: 1\u003cbr\u003eTP: 4\u003cbr\u003eZeRO: 1\u003cbr\u003e\u003cbr\u003e\u003cb\u003ePerformance:\u003c\u002fb\u003e\u003cbr\u003eMFU:\t nan%\u003cbr\u003etok\u002fs\u002fgpu:\t nan\u003cbr\u003etok\u002fs: nan\u003cbr\u003eGPU memory: nan GB"],"x":[0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706,0.9411764705882353,0.058823529411764705,0.11764705882352941,0.17647058823529413,0.23529411764705882,0.29411764705882354,0.35294117647058826,0.4117647058823529,0.47058823529411764,0.5294117647058824,0.5882352941176471,0.6470588235294118,0.7058823529411765,0.7647058823529411,0.8235294117647058,0.8823529411764706],"y":[0.00549999999999988,0.00549999999999988,0.00549999999999988,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.0075000000000001316,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.020500000000000143,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155,-0.033500000000000155],"type":"scatter","xaxis":"x4","yaxis":"y4"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":5.0,"showscale":false},"mode":"markers","showlegend":false,"x":[0.2],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":6.428571428571429,"showscale":false},"mode":"markers","showlegend":false,"x":[0.28571428571428575],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":7.857142857142858,"showscale":false},"mode":"markers","showlegend":false,"x":[0.37142857142857144],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":9.285714285714285,"showscale":false},"mode":"markers","showlegend":false,"x":[0.4571428571428572],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":10.714285714285715,"showscale":false},"mode":"markers","showlegend":false,"x":[0.5428571428571429],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":12.142857142857142,"showscale":false},"mode":"markers","showlegend":false,"x":[0.6285714285714287],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":13.571428571428571,"showscale":false},"mode":"markers","showlegend":false,"x":[0.7142857142857144],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"#333333","opacity":1,"size":15.0,"showscale":false},"mode":"markers","showlegend":false,"x":[0.8],"y":[0.6],"type":"scatter","xaxis":"x6","yaxis":"y6"},{"hoverinfo":"none","marker":{"color":"rgb(78,165,183)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.2],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(110,171,199)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.28571428571428575],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(142,178,216)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.37142857142857144],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(174,185,233)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.4571428571428572],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(206,192,250)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.5428571428571429],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(212,178,230)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.6285714285714287],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(219,164,210)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.7142857142857144],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(225,150,190)","opacity":1,"size":10,"showscale":false},"mode":"markers","showlegend":false,"x":[0.8],"y":[0.6],"type":"scatter","xaxis":"x7","yaxis":"y7"},{"hoverinfo":"none","marker":{"color":"rgb(100,100,100)","opacity":1,"size":12,"symbol":"x","showscale":false},"mode":"markers","showlegend":false,"x":[0.5],"y":[0.6],"type":"scatter","xaxis":"x8","yaxis":"y8"}],                        {"template":{"data":{"histogram2dcontour":[{"type":"histogram2dcontour","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"choropleth":[{"type":"choropleth","colorbar":{"outlinewidth":0,"ticks":""}}],"histogram2d":[{"type":"histogram2d","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"heatmap":[{"type":"heatmap","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"contourcarpet":[{"type":"contourcarpet","colorbar":{"outlinewidth":0,"ticks":""}}],"contour":[{"type":"contour","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"surface":[{"type":"surface","colorbar":{"outlinewidth":0,"ticks":""},"colorscale":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]]}],"mesh3d":[{"type":"mesh3d","colorbar":{"outlinewidth":0,"ticks":""}}],"scatter":[{"fillpattern":{"fillmode":"overlay","size":10,"solidity":0.2},"type":"scatter"}],"parcoords":[{"type":"parcoords","line":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatterpolargl":[{"type":"scatterpolargl","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"bar":[{"error_x":{"color":"#2a3f5f"},"error_y":{"color":"#2a3f5f"},"marker":{"line":{"color":"#E5ECF6","width":0.5},"pattern":{"fillmode":"overlay","size":10,"solidity":0.2}},"type":"bar"}],"scattergeo":[{"type":"scattergeo","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatterpolar":[{"type":"scatterpolar","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"histogram":[{"marker":{"pattern":{"fillmode":"overlay","size":10,"solidity":0.2}},"type":"histogram"}],"scattergl":[{"type":"scattergl","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatter3d":[{"type":"scatter3d","line":{"colorbar":{"outlinewidth":0,"ticks":""}},"marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scattermap":[{"type":"scattermap","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scattermapbox":[{"type":"scattermapbox","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scatterternary":[{"type":"scatterternary","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"scattercarpet":[{"type":"scattercarpet","marker":{"colorbar":{"outlinewidth":0,"ticks":""}}}],"carpet":[{"aaxis":{"endlinecolor":"#2a3f5f","gridcolor":"white","linecolor":"white","minorgridcolor":"white","startlinecolor":"#2a3f5f"},"baxis":{"endlinecolor":"#2a3f5f","gridcolor":"white","linecolor":"white","minorgridcolor":"white","startlinecolor":"#2a3f5f"},"type":"carpet"}],"table":[{"cells":{"fill":{"color":"#EBF0F8"},"line":{"color":"white"}},"header":{"fill":{"color":"#C8D4E3"},"line":{"color":"white"}},"type":"table"}],"barpolar":[{"marker":{"line":{"color":"#E5ECF6","width":0.5},"pattern":{"fillmode":"overlay","size":10,"solidity":0.2}},"type":"barpolar"}],"pie":[{"automargin":true,"type":"pie"}]},"layout":{"autotypenumbers":"strict","colorway":["#636efa","#EF553B","#00cc96","#ab63fa","#FFA15A","#19d3f3","#FF6692","#B6E880","#FF97FF","#FECB52"],"font":{"color":"#2a3f5f"},"hovermode":"closest","hoverlabel":{"align":"left"},"paper_bgcolor":"white","plot_bgcolor":"#E5ECF6","polar":{"bgcolor":"#E5ECF6","angularaxis":{"gridcolor":"white","linecolor":"white","ticks":""},"radialaxis":{"gridcolor":"white","linecolor":"white","ticks":""}},"ternary":{"bgcolor":"#E5ECF6","aaxis":{"gridcolor":"white","linecolor":"white","ticks":""},"baxis":{"gridcolor":"white","linecolor":"white","ticks":""},"caxis":{"gridcolor":"white","linecolor":"white","ticks":""}},"coloraxis":{"colorbar":{"outlinewidth":0,"ticks":""}},"colorscale":{"sequential":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]],"sequentialminus":[[0.0,"#0d0887"],[0.1111111111111111,"#46039f"],[0.2222222222222222,"#7201a8"],[0.3333333333333333,"#9c179e"],[0.4444444444444444,"#bd3786"],[0.5555555555555556,"#d8576b"],[0.6666666666666666,"#ed7953"],[0.7777777777777778,"#fb9f3a"],[0.8888888888888888,"#fdca26"],[1.0,"#f0f921"]],"diverging":[[0,"#8e0152"],[0.1,"#c51b7d"],[0.2,"#de77ae"],[0.3,"#f1b6da"],[0.4,"#fde0ef"],[0.5,"#f7f7f7"],[0.6,"#e6f5d0"],[0.7,"#b8e186"],[0.8,"#7fbc41"],[0.9,"#4d9221"],[1,"#276419"]]},"xaxis":{"gridcolor":"white","linecolor":"white","ticks":"","title":{"standoff":15},"zerolinecolor":"white","automargin":true,"zerolinewidth":2},"yaxis":{"gridcolor":"white","linecolor":"white","ticks":"","title":{"standoff":15},"zerolinecolor":"white","automargin":true,"zerolinewidth":2},"scene":{"xaxis":{"backgroundcolor":"#E5ECF6","gridcolor":"white","linecolor":"white","showbackground":true,"ticks":"","zerolinecolor":"white","gridwidth":2},"yaxis":{"backgroundcolor":"#E5ECF6","gridcolor":"white","linecolor":"white","showbackground":true,"ticks":"","zerolinecolor":"white","gridwidth":2},"zaxis":{"backgroundcolor":"#E5ECF6","gridcolor":"white","linecolor":"white","showbackground":true,"ticks":"","zerolinecolor":"white","gridwidth":2}},"shapedefaults":{"line":{"color":"#2a3f5f"}},"annotationdefaults":{"arrowcolor":"#2a3f5f","arrowhead":0,"arrowwidth":1},"geo":{"bgcolor":"white","landcolor":"#E5ECF6","subunitcolor":"white","showland":true,"showlakes":true,"lakecolor":"white"},"title":{"x":0.05},"mapbox":{"style":"light"}}},"xaxis":{"anchor":"y","domain":[0.0,0.25],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis":{"anchor":"x","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.8409999999999999]},"xaxis2":{"anchor":"y2","domain":[0.25,0.5],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis2":{"anchor":"x2","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.8409999999999999]},"xaxis3":{"anchor":"y3","domain":[0.5,0.75],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis3":{"anchor":"x3","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.8409999999999999]},"xaxis4":{"anchor":"y4","domain":[0.75,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,1.1]},"yaxis4":{"anchor":"x4","domain":[0.069,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[-0.1,0.8409999999999999]},"xaxis5":{"anchor":"y5","domain":[0.0,0.25],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis5":{"anchor":"x5","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"xaxis6":{"anchor":"y6","domain":[0.25,0.5],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis6":{"anchor":"x6","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"xaxis7":{"anchor":"y7","domain":[0.5,0.75],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis7":{"anchor":"x7","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"xaxis8":{"anchor":"y8","domain":[0.75,1.0],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,1]},"yaxis8":{"anchor":"x8","domain":[0.0,0.049],"showticklabels":false,"showgrid":false,"zeroline":false,"fixedrange":true,"range":[0,0.8]},"annotations":[{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"1B","x":0.125,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"3B","x":0.375,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"8B","x":0.625,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"80B","x":0.875,"xanchor":"center","xref":"paper","y":1.00001,"yanchor":"bottom","yref":"paper"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"1\u003cbr\u003enode","x":-0.1,"xanchor":"right","xref":"x","y":0.7884999999999999,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"2\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.6839999999999998,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"4\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.5599999999999998,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"8\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.4229999999999999,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"16\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.25999999999999984,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"32\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":0.1099999999999998,"yref":"y"},{"font":{"size":16,"weight":"bold"},"showarrow":false,"text":"64\u003cbr\u003enodes","x":-0.1,"xanchor":"right","xref":"x","y":-0.0010000000000001813,"yref":"y"},{"font":{"size":12},"showarrow":false,"text":"moar throughput [tok\u002fs]","x":0.5,"xref":"x6","y":0.0,"yref":"y6"},{"font":{"size":12},"showarrow":false,"text":"gpus go brrr [mfu]","x":0.5,"xref":"x7","y":0.0,"yref":"y7"},{"font":{"size":12},"showarrow":false,"text":"crashed\u002foom","x":0.5,"xref":"x8","y":0.0,"yref":"y8"}],"shapes":[{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x2","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y2"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x3","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y3"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.6219999999999998,"y1":0.6219999999999998,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.4979999999999999,"y1":0.4979999999999999,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.34799999999999986,"y1":0.34799999999999986,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.17199999999999988,"y1":0.17199999999999988,"yref":"y4"},{"line":{"color":"gray","width":1},"type":"line","x0":0,"x1":1,"xref":"x4","y0":0.04799999999999986,"y1":0.04799999999999986,"yref":"y4"},{"line":{"color":"black","width":3},"type":"line","x0":0.2,"x1":0.8,"xref":"x6","y0":0.3,"y1":0.3,"yref":"y6"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x6","y0":0.25,"y1":0.3,"yref":"y6"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x6","y0":0.35,"y1":0.3,"yref":"y6"},{"line":{"color":"black","width":3},"type":"line","x0":0.2,"x1":0.8,"xref":"x7","y0":0.3,"y1":0.3,"yref":"y7"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x7","y0":0.25,"y1":0.3,"yref":"y7"},{"line":{"color":"black","width":3},"type":"line","x0":0.75,"x1":0.8,"xref":"x7","y0":0.35,"y1":0.3,"yref":"y7"}],"margin":{"l":60,"r":0,"t":50,"b":50},"height":840,"width":720,"showlegend":false,"plot_bgcolor":"white","dragmode":false},                        {"displayModeBar": false, "responsive": true, "scrollZoom": false}                    )                };            </script>        </div>
\ No newline at end of file