BenchmarkBot commited on
Commit
646bd3a
·
verified ·
1 Parent(s): b35f758

Upload 2024-10-03-12-11-44/pytorch/benchmark_report.json with huggingface_hub

Browse files
2024-10-03-12-11-44/pytorch/benchmark_report.json ADDED
@@ -0,0 +1,199 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 1350.053888,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 5.446339800953865
15
+ ],
16
+ "count": 1,
17
+ "total": 5.446339800953865,
18
+ "mean": 5.446339800953865,
19
+ "p50": 5.446339800953865,
20
+ "p90": 5.446339800953865,
21
+ "p95": 5.446339800953865,
22
+ "p99": 5.446339800953865,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "forward": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 1133.002752,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 0.07211260870099068,
43
+ 0.08712881058454514,
44
+ 0.03192144259810448,
45
+ 0.08901969343423843,
46
+ 0.08365127816796303,
47
+ 0.030785299837589264,
48
+ 0.09117395803332329,
49
+ 0.08516648039221764,
50
+ 0.08884396776556969,
51
+ 0.03202417492866516,
52
+ 0.08828726038336754,
53
+ 0.08974859118461609,
54
+ 0.08621463179588318,
55
+ 0.03249753266572952,
56
+ 0.08844377845525742,
57
+ 0.08403347060084343,
58
+ 0.0316540002822876,
59
+ 0.08734548836946487,
60
+ 0.08284838870167732,
61
+ 0.031995829194784164,
62
+ 0.08778147399425507,
63
+ 0.08311906084418297,
64
+ 0.08883332461118698,
65
+ 0.029844172298908234,
66
+ 0.08430439606308937,
67
+ 0.08893497660756111,
68
+ 0.0325552299618721,
69
+ 0.08627215400338173,
70
+ 0.08953828364610672,
71
+ 0.03022896870970726,
72
+ 0.08486832678318024,
73
+ 0.08853471279144287,
74
+ 0.08460183069109917,
75
+ 0.031494658440351486,
76
+ 0.09973353520035744,
77
+ 0.0833778828382492,
78
+ 0.08785052970051765,
79
+ 0.03373149409890175,
80
+ 0.08212831988930702,
81
+ 0.08821769058704376,
82
+ 0.03391868621110916,
83
+ 0.08439534902572632,
84
+ 0.08856771141290665,
85
+ 0.03235815465450287,
86
+ 0.08359530940651894,
87
+ 0.08816565945744514,
88
+ 0.08489584550261497,
89
+ 0.03110184147953987,
90
+ 0.08856809511780739,
91
+ 0.08459892123937607,
92
+ 0.031157534569501877,
93
+ 0.08733880892395973,
94
+ 0.0841650553047657,
95
+ 0.030547112226486206,
96
+ 0.08782298490405083,
97
+ 0.08472080156207085,
98
+ 0.09423286840319633,
99
+ 0.032623693346977234,
100
+ 0.08440857008099556,
101
+ 0.08756478875875473,
102
+ 0.0318482331931591,
103
+ 0.08350762352347374,
104
+ 0.08946392312645912,
105
+ 0.0847887471318245,
106
+ 0.03126977011561394,
107
+ 0.08786434307694435,
108
+ 0.08619091287255287,
109
+ 0.03135005757212639,
110
+ 0.09026874974370003,
111
+ 0.08420547842979431,
112
+ 0.2983642518520355,
113
+ 0.031972017139196396,
114
+ 0.07953934371471405,
115
+ 0.09058502689003944,
116
+ 0.030382290482521057,
117
+ 0.08372338488698006,
118
+ 0.08971590921282768,
119
+ 0.08407830446958542,
120
+ 0.03121604397892952,
121
+ 0.09072363004088402,
122
+ 0.08343665674328804,
123
+ 0.031056031584739685,
124
+ 0.08707237988710403,
125
+ 0.0848214440047741,
126
+ 0.03190623223781586,
127
+ 0.08785221725702286,
128
+ 0.08411530405282974,
129
+ 0.08981222659349442,
130
+ 0.030464816838502884,
131
+ 0.08419576287269592,
132
+ 0.08932027220726013,
133
+ 0.0317525789141655,
134
+ 0.08719335496425629,
135
+ 0.08823258802294731,
136
+ 0.08838725090026855,
137
+ 0.03081253543496132,
138
+ 0.08262435719370842,
139
+ 0.09577960520982742,
140
+ 0.032657597213983536,
141
+ 0.0792769230902195,
142
+ 0.08840733394026756,
143
+ 0.032758817076683044,
144
+ 0.08042096719145775,
145
+ 0.08879368752241135,
146
+ 0.03085567057132721,
147
+ 0.0852825678884983,
148
+ 0.08746981993317604,
149
+ 0.08388468250632286,
150
+ 0.03197556361556053,
151
+ 0.08930324390530586,
152
+ 0.08320152387022972,
153
+ 0.032891955226659775,
154
+ 0.0874667540192604,
155
+ 0.08433596789836884,
156
+ 0.08781297504901886,
157
+ 0.029759343713521957,
158
+ 0.08411829546093941,
159
+ 0.08842362463474274,
160
+ 0.030253786593675613,
161
+ 0.08527141436934471,
162
+ 0.08821740001440048,
163
+ 0.03176594153046608,
164
+ 0.08352569490671158,
165
+ 0.08811841905117035,
166
+ 0.03093539923429489,
167
+ 0.08662167191505432,
168
+ 0.08222931995987892,
169
+ 0.031720247119665146,
170
+ 0.08853322267532349,
171
+ 0.10124259814620018,
172
+ 0.09010403230786324,
173
+ 0.08753561228513718,
174
+ 0.09024511277675629,
175
+ 0.034699127078056335,
176
+ 0.08595048263669014,
177
+ 0.09234531223773956,
178
+ 0.09113291651010513,
179
+ 0.03464493155479431,
180
+ 0.08296076953411102
181
+ ],
182
+ "count": 139,
183
+ "total": 10.072639882564545,
184
+ "mean": 0.07246503512636362,
185
+ "p50": 0.08440857008099556,
186
+ "p90": 0.08976131826639175,
187
+ "p95": 0.09113702066242695,
188
+ "p99": 0.10066915422677994,
189
+ "stdev": 0.031620398342282356,
190
+ "stdev_": 43.63538675879077
191
+ },
192
+ "throughput": {
193
+ "unit": "samples/s",
194
+ "value": 27.599517429508243
195
+ },
196
+ "energy": null,
197
+ "efficiency": null
198
+ }
199
+ }