{ "best_metric": null, "best_model_checkpoint": null, "epoch": 3.0, "global_step": 600000, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.0, "learning_rate": 4.995833333333333e-05, "loss": 2.429, "step": 500 }, { "epoch": 0.01, "learning_rate": 4.991666666666667e-05, "loss": 1.3813, "step": 1000 }, { "epoch": 0.01, "learning_rate": 4.9875000000000006e-05, "loss": 1.2486, "step": 1500 }, { "epoch": 0.01, "learning_rate": 4.9833333333333336e-05, "loss": 1.177, "step": 2000 }, { "epoch": 0.01, "learning_rate": 4.979166666666667e-05, "loss": 1.123, "step": 2500 }, { "epoch": 0.01, "learning_rate": 4.975e-05, "loss": 1.084, "step": 3000 }, { "epoch": 0.02, "learning_rate": 4.970833333333333e-05, "loss": 1.043, "step": 3500 }, { "epoch": 0.02, "learning_rate": 4.966666666666667e-05, "loss": 1.0214, "step": 4000 }, { "epoch": 0.02, "learning_rate": 4.962500000000001e-05, "loss": 0.9989, "step": 4500 }, { "epoch": 0.03, "learning_rate": 4.958333333333334e-05, "loss": 0.9785, "step": 5000 }, { "epoch": 0.03, "learning_rate": 4.954166666666667e-05, "loss": 0.9578, "step": 5500 }, { "epoch": 0.03, "learning_rate": 4.9500000000000004e-05, "loss": 0.9334, "step": 6000 }, { "epoch": 0.03, "learning_rate": 4.9458333333333334e-05, "loss": 0.9267, "step": 6500 }, { "epoch": 0.04, "learning_rate": 4.9416666666666664e-05, "loss": 0.9123, "step": 7000 }, { "epoch": 0.04, "learning_rate": 4.937500000000001e-05, "loss": 0.8844, "step": 7500 }, { "epoch": 0.04, "learning_rate": 4.933333333333334e-05, "loss": 0.8706, "step": 8000 }, { "epoch": 0.04, "learning_rate": 4.929166666666667e-05, "loss": 0.8609, "step": 8500 }, { "epoch": 0.04, "learning_rate": 4.9250000000000004e-05, "loss": 0.8513, "step": 9000 }, { "epoch": 0.05, "learning_rate": 4.9208333333333335e-05, "loss": 0.8438, "step": 9500 }, { "epoch": 0.05, "learning_rate": 4.9166666666666665e-05, "loss": 0.8244, "step": 10000 }, { "epoch": 0.05, "learning_rate": 4.9125e-05, "loss": 0.8183, "step": 10500 }, { "epoch": 0.06, "learning_rate": 4.908333333333334e-05, "loss": 0.8109, "step": 11000 }, { "epoch": 0.06, "learning_rate": 4.904166666666667e-05, "loss": 0.8076, "step": 11500 }, { "epoch": 0.06, "learning_rate": 4.9e-05, "loss": 0.7959, "step": 12000 }, { "epoch": 0.06, "learning_rate": 4.8958333333333335e-05, "loss": 0.7898, "step": 12500 }, { "epoch": 0.07, "learning_rate": 4.891666666666667e-05, "loss": 0.7831, "step": 13000 }, { "epoch": 0.07, "learning_rate": 4.8875e-05, "loss": 0.7798, "step": 13500 }, { "epoch": 0.07, "learning_rate": 4.883333333333334e-05, "loss": 0.7612, "step": 14000 }, { "epoch": 0.07, "learning_rate": 4.879166666666667e-05, "loss": 0.7536, "step": 14500 }, { "epoch": 0.07, "learning_rate": 4.875e-05, "loss": 0.7447, "step": 15000 }, { "epoch": 0.08, "learning_rate": 4.8708333333333336e-05, "loss": 0.7431, "step": 15500 }, { "epoch": 0.08, "learning_rate": 4.866666666666667e-05, "loss": 0.7334, "step": 16000 }, { "epoch": 0.08, "learning_rate": 4.8625e-05, "loss": 0.7342, "step": 16500 }, { "epoch": 0.09, "learning_rate": 4.858333333333333e-05, "loss": 0.7303, "step": 17000 }, { "epoch": 0.09, "learning_rate": 4.854166666666667e-05, "loss": 0.7452, "step": 17500 }, { "epoch": 0.09, "learning_rate": 4.85e-05, "loss": 0.7232, "step": 18000 }, { "epoch": 0.09, "learning_rate": 4.845833333333334e-05, "loss": 0.726, "step": 18500 }, { "epoch": 0.1, "learning_rate": 4.8416666666666673e-05, "loss": 0.7141, "step": 19000 }, { "epoch": 0.1, "learning_rate": 4.8375000000000004e-05, "loss": 0.7098, "step": 19500 }, { "epoch": 0.1, "learning_rate": 4.8333333333333334e-05, "loss": 0.7086, "step": 20000 }, { "epoch": 0.1, "learning_rate": 4.829166666666667e-05, "loss": 0.7018, "step": 20500 }, { "epoch": 0.1, "learning_rate": 4.825e-05, "loss": 0.7047, "step": 21000 }, { "epoch": 0.11, "learning_rate": 4.820833333333333e-05, "loss": 0.7063, "step": 21500 }, { "epoch": 0.11, "learning_rate": 4.8166666666666674e-05, "loss": 0.6929, "step": 22000 }, { "epoch": 0.11, "learning_rate": 4.8125000000000004e-05, "loss": 0.6843, "step": 22500 }, { "epoch": 0.12, "learning_rate": 4.8083333333333334e-05, "loss": 0.6821, "step": 23000 }, { "epoch": 0.12, "learning_rate": 4.804166666666667e-05, "loss": 0.682, "step": 23500 }, { "epoch": 0.12, "learning_rate": 4.8e-05, "loss": 0.6734, "step": 24000 }, { "epoch": 0.12, "learning_rate": 4.795833333333333e-05, "loss": 0.682, "step": 24500 }, { "epoch": 0.12, "learning_rate": 4.791666666666667e-05, "loss": 0.6876, "step": 25000 }, { "epoch": 0.13, "learning_rate": 4.7875000000000005e-05, "loss": 0.667, "step": 25500 }, { "epoch": 0.13, "learning_rate": 4.7833333333333335e-05, "loss": 0.6757, "step": 26000 }, { "epoch": 0.13, "learning_rate": 4.7791666666666665e-05, "loss": 0.6682, "step": 26500 }, { "epoch": 0.14, "learning_rate": 4.775e-05, "loss": 0.6629, "step": 27000 }, { "epoch": 0.14, "learning_rate": 4.770833333333334e-05, "loss": 0.6602, "step": 27500 }, { "epoch": 0.14, "learning_rate": 4.766666666666667e-05, "loss": 0.6549, "step": 28000 }, { "epoch": 0.14, "learning_rate": 4.7625000000000006e-05, "loss": 0.6523, "step": 28500 }, { "epoch": 0.14, "learning_rate": 4.7583333333333336e-05, "loss": 0.6388, "step": 29000 }, { "epoch": 0.15, "learning_rate": 4.7541666666666666e-05, "loss": 0.6422, "step": 29500 }, { "epoch": 0.15, "learning_rate": 4.75e-05, "loss": 0.6425, "step": 30000 }, { "epoch": 0.15, "learning_rate": 4.745833333333334e-05, "loss": 0.6261, "step": 30500 }, { "epoch": 0.15, "learning_rate": 4.741666666666667e-05, "loss": 0.6425, "step": 31000 }, { "epoch": 0.16, "learning_rate": 4.7375e-05, "loss": 0.64, "step": 31500 }, { "epoch": 0.16, "learning_rate": 4.7333333333333336e-05, "loss": 0.6293, "step": 32000 }, { "epoch": 0.16, "learning_rate": 4.7291666666666666e-05, "loss": 0.6334, "step": 32500 }, { "epoch": 0.17, "learning_rate": 4.7249999999999997e-05, "loss": 0.6239, "step": 33000 }, { "epoch": 0.17, "learning_rate": 4.720833333333334e-05, "loss": 0.6056, "step": 33500 }, { "epoch": 0.17, "learning_rate": 4.716666666666667e-05, "loss": 0.6209, "step": 34000 }, { "epoch": 0.17, "learning_rate": 4.7125e-05, "loss": 0.6134, "step": 34500 }, { "epoch": 0.17, "learning_rate": 4.708333333333334e-05, "loss": 0.623, "step": 35000 }, { "epoch": 0.18, "learning_rate": 4.704166666666667e-05, "loss": 0.6091, "step": 35500 }, { "epoch": 0.18, "learning_rate": 4.7e-05, "loss": 0.613, "step": 36000 }, { "epoch": 0.18, "learning_rate": 4.695833333333334e-05, "loss": 0.5988, "step": 36500 }, { "epoch": 0.18, "learning_rate": 4.691666666666667e-05, "loss": 0.6036, "step": 37000 }, { "epoch": 0.19, "learning_rate": 4.6875e-05, "loss": 0.5993, "step": 37500 }, { "epoch": 0.19, "learning_rate": 4.683333333333334e-05, "loss": 0.6018, "step": 38000 }, { "epoch": 0.19, "learning_rate": 4.679166666666667e-05, "loss": 0.6092, "step": 38500 }, { "epoch": 0.2, "learning_rate": 4.6750000000000005e-05, "loss": 0.5975, "step": 39000 }, { "epoch": 0.2, "learning_rate": 4.6708333333333335e-05, "loss": 0.5903, "step": 39500 }, { "epoch": 0.2, "learning_rate": 4.666666666666667e-05, "loss": 0.5949, "step": 40000 }, { "epoch": 0.2, "learning_rate": 4.6625e-05, "loss": 0.5941, "step": 40500 }, { "epoch": 0.2, "learning_rate": 4.658333333333333e-05, "loss": 0.5879, "step": 41000 }, { "epoch": 0.21, "learning_rate": 4.654166666666667e-05, "loss": 0.583, "step": 41500 }, { "epoch": 0.21, "learning_rate": 4.6500000000000005e-05, "loss": 0.5827, "step": 42000 }, { "epoch": 0.21, "learning_rate": 4.6458333333333335e-05, "loss": 0.5834, "step": 42500 }, { "epoch": 0.21, "learning_rate": 4.641666666666667e-05, "loss": 0.5701, "step": 43000 }, { "epoch": 0.22, "learning_rate": 4.6375e-05, "loss": 0.5767, "step": 43500 }, { "epoch": 0.22, "learning_rate": 4.633333333333333e-05, "loss": 0.5818, "step": 44000 }, { "epoch": 0.22, "learning_rate": 4.629166666666667e-05, "loss": 0.569, "step": 44500 }, { "epoch": 0.23, "learning_rate": 4.6250000000000006e-05, "loss": 0.5786, "step": 45000 }, { "epoch": 0.23, "learning_rate": 4.6208333333333336e-05, "loss": 0.5621, "step": 45500 }, { "epoch": 0.23, "learning_rate": 4.6166666666666666e-05, "loss": 0.5686, "step": 46000 }, { "epoch": 0.23, "learning_rate": 4.6125e-05, "loss": 0.5594, "step": 46500 }, { "epoch": 0.23, "learning_rate": 4.608333333333333e-05, "loss": 0.5583, "step": 47000 }, { "epoch": 0.24, "learning_rate": 4.604166666666666e-05, "loss": 0.5629, "step": 47500 }, { "epoch": 0.24, "learning_rate": 4.600000000000001e-05, "loss": 0.559, "step": 48000 }, { "epoch": 0.24, "learning_rate": 4.595833333333334e-05, "loss": 0.5623, "step": 48500 }, { "epoch": 0.24, "learning_rate": 4.591666666666667e-05, "loss": 0.5632, "step": 49000 }, { "epoch": 0.25, "learning_rate": 4.5875000000000004e-05, "loss": 0.5591, "step": 49500 }, { "epoch": 0.25, "learning_rate": 4.5833333333333334e-05, "loss": 0.5438, "step": 50000 }, { "epoch": 0.25, "learning_rate": 4.579166666666667e-05, "loss": 0.5575, "step": 50500 }, { "epoch": 0.26, "learning_rate": 4.575e-05, "loss": 0.5485, "step": 51000 }, { "epoch": 0.26, "learning_rate": 4.570833333333334e-05, "loss": 0.5498, "step": 51500 }, { "epoch": 0.26, "learning_rate": 4.566666666666667e-05, "loss": 0.5387, "step": 52000 }, { "epoch": 0.26, "learning_rate": 4.5625e-05, "loss": 0.5627, "step": 52500 }, { "epoch": 0.27, "learning_rate": 4.5583333333333335e-05, "loss": 0.5478, "step": 53000 }, { "epoch": 0.27, "learning_rate": 4.554166666666667e-05, "loss": 0.5537, "step": 53500 }, { "epoch": 0.27, "learning_rate": 4.55e-05, "loss": 0.551, "step": 54000 }, { "epoch": 0.27, "learning_rate": 4.545833333333334e-05, "loss": 0.548, "step": 54500 }, { "epoch": 0.28, "learning_rate": 4.541666666666667e-05, "loss": 0.5348, "step": 55000 }, { "epoch": 0.28, "learning_rate": 4.5375e-05, "loss": 0.5358, "step": 55500 }, { "epoch": 0.28, "learning_rate": 4.5333333333333335e-05, "loss": 0.5391, "step": 56000 }, { "epoch": 0.28, "learning_rate": 4.529166666666667e-05, "loss": 0.5353, "step": 56500 }, { "epoch": 0.28, "learning_rate": 4.525e-05, "loss": 0.5362, "step": 57000 }, { "epoch": 0.29, "learning_rate": 4.520833333333334e-05, "loss": 0.5277, "step": 57500 }, { "epoch": 0.29, "learning_rate": 4.516666666666667e-05, "loss": 0.5309, "step": 58000 }, { "epoch": 0.29, "learning_rate": 4.5125e-05, "loss": 0.5307, "step": 58500 }, { "epoch": 0.29, "learning_rate": 4.5083333333333336e-05, "loss": 0.5288, "step": 59000 }, { "epoch": 0.3, "learning_rate": 4.504166666666667e-05, "loss": 0.5314, "step": 59500 }, { "epoch": 0.3, "learning_rate": 4.5e-05, "loss": 0.5389, "step": 60000 }, { "epoch": 0.3, "learning_rate": 4.495833333333333e-05, "loss": 0.5287, "step": 60500 }, { "epoch": 0.3, "learning_rate": 4.491666666666667e-05, "loss": 0.5258, "step": 61000 }, { "epoch": 0.31, "learning_rate": 4.4875e-05, "loss": 0.5198, "step": 61500 }, { "epoch": 0.31, "learning_rate": 4.483333333333333e-05, "loss": 0.5193, "step": 62000 }, { "epoch": 0.31, "learning_rate": 4.4791666666666673e-05, "loss": 0.5202, "step": 62500 }, { "epoch": 0.32, "learning_rate": 4.4750000000000004e-05, "loss": 0.5201, "step": 63000 }, { "epoch": 0.32, "learning_rate": 4.4708333333333334e-05, "loss": 0.5133, "step": 63500 }, { "epoch": 0.32, "learning_rate": 4.466666666666667e-05, "loss": 0.5206, "step": 64000 }, { "epoch": 0.32, "learning_rate": 4.4625e-05, "loss": 0.5146, "step": 64500 }, { "epoch": 0.33, "learning_rate": 4.458333333333334e-05, "loss": 0.5262, "step": 65000 }, { "epoch": 0.33, "learning_rate": 4.454166666666667e-05, "loss": 0.5186, "step": 65500 }, { "epoch": 0.33, "learning_rate": 4.4500000000000004e-05, "loss": 0.5164, "step": 66000 }, { "epoch": 0.33, "learning_rate": 4.4458333333333334e-05, "loss": 0.5114, "step": 66500 }, { "epoch": 0.34, "learning_rate": 4.4416666666666664e-05, "loss": 0.5112, "step": 67000 }, { "epoch": 0.34, "learning_rate": 4.4375e-05, "loss": 0.5113, "step": 67500 }, { "epoch": 0.34, "learning_rate": 4.433333333333334e-05, "loss": 0.5046, "step": 68000 }, { "epoch": 0.34, "learning_rate": 4.429166666666667e-05, "loss": 0.5088, "step": 68500 }, { "epoch": 0.34, "learning_rate": 4.4250000000000005e-05, "loss": 0.5107, "step": 69000 }, { "epoch": 0.35, "learning_rate": 4.4208333333333335e-05, "loss": 0.4915, "step": 69500 }, { "epoch": 0.35, "learning_rate": 4.4166666666666665e-05, "loss": 0.5022, "step": 70000 }, { "epoch": 0.35, "learning_rate": 4.4125e-05, "loss": 0.497, "step": 70500 }, { "epoch": 0.35, "learning_rate": 4.408333333333334e-05, "loss": 0.4993, "step": 71000 }, { "epoch": 0.36, "learning_rate": 4.404166666666667e-05, "loss": 0.496, "step": 71500 }, { "epoch": 0.36, "learning_rate": 4.4000000000000006e-05, "loss": 0.5068, "step": 72000 }, { "epoch": 0.36, "learning_rate": 4.3958333333333336e-05, "loss": 0.5085, "step": 72500 }, { "epoch": 0.36, "learning_rate": 4.3916666666666666e-05, "loss": 0.4993, "step": 73000 }, { "epoch": 0.37, "learning_rate": 4.3875e-05, "loss": 0.499, "step": 73500 }, { "epoch": 0.37, "learning_rate": 4.383333333333334e-05, "loss": 0.4866, "step": 74000 }, { "epoch": 0.37, "learning_rate": 4.379166666666667e-05, "loss": 0.5008, "step": 74500 }, { "epoch": 0.38, "learning_rate": 4.375e-05, "loss": 0.4955, "step": 75000 }, { "epoch": 0.38, "learning_rate": 4.3708333333333336e-05, "loss": 0.4951, "step": 75500 }, { "epoch": 0.38, "learning_rate": 4.3666666666666666e-05, "loss": 0.4955, "step": 76000 }, { "epoch": 0.38, "learning_rate": 4.3625e-05, "loss": 0.4829, "step": 76500 }, { "epoch": 0.39, "learning_rate": 4.358333333333334e-05, "loss": 0.4845, "step": 77000 }, { "epoch": 0.39, "learning_rate": 4.354166666666667e-05, "loss": 0.4915, "step": 77500 }, { "epoch": 0.39, "learning_rate": 4.35e-05, "loss": 0.4829, "step": 78000 }, { "epoch": 0.39, "learning_rate": 4.345833333333334e-05, "loss": 0.4874, "step": 78500 }, { "epoch": 0.4, "learning_rate": 4.341666666666667e-05, "loss": 0.4829, "step": 79000 }, { "epoch": 0.4, "learning_rate": 4.3375000000000004e-05, "loss": 0.4761, "step": 79500 }, { "epoch": 0.4, "learning_rate": 4.3333333333333334e-05, "loss": 0.4774, "step": 80000 }, { "epoch": 0.4, "learning_rate": 4.329166666666667e-05, "loss": 0.4795, "step": 80500 }, { "epoch": 0.41, "learning_rate": 4.325e-05, "loss": 0.4731, "step": 81000 }, { "epoch": 0.41, "learning_rate": 4.320833333333333e-05, "loss": 0.4699, "step": 81500 }, { "epoch": 0.41, "learning_rate": 4.316666666666667e-05, "loss": 0.477, "step": 82000 }, { "epoch": 0.41, "learning_rate": 4.3125000000000005e-05, "loss": 0.4777, "step": 82500 }, { "epoch": 0.41, "learning_rate": 4.3083333333333335e-05, "loss": 0.4729, "step": 83000 }, { "epoch": 0.42, "learning_rate": 4.304166666666667e-05, "loss": 0.471, "step": 83500 }, { "epoch": 0.42, "learning_rate": 4.3e-05, "loss": 0.4722, "step": 84000 }, { "epoch": 0.42, "learning_rate": 4.295833333333333e-05, "loss": 0.4757, "step": 84500 }, { "epoch": 0.42, "learning_rate": 4.291666666666667e-05, "loss": 0.4738, "step": 85000 }, { "epoch": 0.43, "learning_rate": 4.2875000000000005e-05, "loss": 0.4689, "step": 85500 }, { "epoch": 0.43, "learning_rate": 4.2833333333333335e-05, "loss": 0.4799, "step": 86000 }, { "epoch": 0.43, "learning_rate": 4.2791666666666666e-05, "loss": 0.46, "step": 86500 }, { "epoch": 0.43, "learning_rate": 4.275e-05, "loss": 0.47, "step": 87000 }, { "epoch": 0.44, "learning_rate": 4.270833333333333e-05, "loss": 0.4599, "step": 87500 }, { "epoch": 0.44, "learning_rate": 4.266666666666667e-05, "loss": 0.461, "step": 88000 }, { "epoch": 0.44, "learning_rate": 4.2625000000000006e-05, "loss": 0.4711, "step": 88500 }, { "epoch": 0.45, "learning_rate": 4.2583333333333336e-05, "loss": 0.4566, "step": 89000 }, { "epoch": 0.45, "learning_rate": 4.2541666666666666e-05, "loss": 0.4641, "step": 89500 }, { "epoch": 0.45, "learning_rate": 4.25e-05, "loss": 0.4561, "step": 90000 }, { "epoch": 0.45, "learning_rate": 4.245833333333333e-05, "loss": 0.4642, "step": 90500 }, { "epoch": 0.46, "learning_rate": 4.241666666666667e-05, "loss": 0.4553, "step": 91000 }, { "epoch": 0.46, "learning_rate": 4.237500000000001e-05, "loss": 0.4691, "step": 91500 }, { "epoch": 0.46, "learning_rate": 4.233333333333334e-05, "loss": 0.4602, "step": 92000 }, { "epoch": 0.46, "learning_rate": 4.229166666666667e-05, "loss": 0.473, "step": 92500 }, { "epoch": 0.47, "learning_rate": 4.2250000000000004e-05, "loss": 0.4709, "step": 93000 }, { "epoch": 0.47, "learning_rate": 4.2208333333333334e-05, "loss": 0.4595, "step": 93500 }, { "epoch": 0.47, "learning_rate": 4.216666666666667e-05, "loss": 0.4599, "step": 94000 }, { "epoch": 0.47, "learning_rate": 4.2125e-05, "loss": 0.4557, "step": 94500 }, { "epoch": 0.47, "learning_rate": 4.208333333333334e-05, "loss": 0.4602, "step": 95000 }, { "epoch": 0.48, "learning_rate": 4.204166666666667e-05, "loss": 0.4462, "step": 95500 }, { "epoch": 0.48, "learning_rate": 4.2e-05, "loss": 0.4554, "step": 96000 }, { "epoch": 0.48, "learning_rate": 4.1958333333333335e-05, "loss": 0.4524, "step": 96500 }, { "epoch": 0.48, "learning_rate": 4.191666666666667e-05, "loss": 0.4377, "step": 97000 }, { "epoch": 0.49, "learning_rate": 4.1875e-05, "loss": 0.4561, "step": 97500 }, { "epoch": 0.49, "learning_rate": 4.183333333333334e-05, "loss": 0.4476, "step": 98000 }, { "epoch": 0.49, "learning_rate": 4.179166666666667e-05, "loss": 0.4544, "step": 98500 }, { "epoch": 0.49, "learning_rate": 4.175e-05, "loss": 0.4516, "step": 99000 }, { "epoch": 0.5, "learning_rate": 4.1708333333333335e-05, "loss": 0.4493, "step": 99500 }, { "epoch": 0.5, "learning_rate": 4.166666666666667e-05, "loss": 0.4463, "step": 100000 }, { "epoch": 0.5, "learning_rate": 4.1625e-05, "loss": 0.4479, "step": 100500 }, { "epoch": 0.51, "learning_rate": 4.158333333333333e-05, "loss": 0.4494, "step": 101000 }, { "epoch": 0.51, "learning_rate": 4.154166666666667e-05, "loss": 0.4535, "step": 101500 }, { "epoch": 0.51, "learning_rate": 4.15e-05, "loss": 0.4432, "step": 102000 }, { "epoch": 0.51, "learning_rate": 4.1458333333333336e-05, "loss": 0.4453, "step": 102500 }, { "epoch": 0.52, "learning_rate": 4.141666666666667e-05, "loss": 0.4436, "step": 103000 }, { "epoch": 0.52, "learning_rate": 4.1375e-05, "loss": 0.4481, "step": 103500 }, { "epoch": 0.52, "learning_rate": 4.133333333333333e-05, "loss": 0.4503, "step": 104000 }, { "epoch": 0.52, "learning_rate": 4.129166666666667e-05, "loss": 0.4359, "step": 104500 }, { "epoch": 0.53, "learning_rate": 4.125e-05, "loss": 0.4522, "step": 105000 }, { "epoch": 0.53, "learning_rate": 4.120833333333334e-05, "loss": 0.4436, "step": 105500 }, { "epoch": 0.53, "learning_rate": 4.116666666666667e-05, "loss": 0.4277, "step": 106000 }, { "epoch": 0.53, "learning_rate": 4.1125000000000004e-05, "loss": 0.4436, "step": 106500 }, { "epoch": 0.54, "learning_rate": 4.1083333333333334e-05, "loss": 0.4388, "step": 107000 }, { "epoch": 0.54, "learning_rate": 4.104166666666667e-05, "loss": 0.445, "step": 107500 }, { "epoch": 0.54, "learning_rate": 4.1e-05, "loss": 0.4331, "step": 108000 }, { "epoch": 0.54, "learning_rate": 4.095833333333334e-05, "loss": 0.4356, "step": 108500 }, { "epoch": 0.55, "learning_rate": 4.091666666666667e-05, "loss": 0.4434, "step": 109000 }, { "epoch": 0.55, "learning_rate": 4.0875000000000004e-05, "loss": 0.4351, "step": 109500 }, { "epoch": 0.55, "learning_rate": 4.0833333333333334e-05, "loss": 0.4334, "step": 110000 }, { "epoch": 0.55, "learning_rate": 4.0791666666666664e-05, "loss": 0.433, "step": 110500 }, { "epoch": 0.56, "learning_rate": 4.075e-05, "loss": 0.435, "step": 111000 }, { "epoch": 0.56, "learning_rate": 4.070833333333334e-05, "loss": 0.4373, "step": 111500 }, { "epoch": 0.56, "learning_rate": 4.066666666666667e-05, "loss": 0.4366, "step": 112000 }, { "epoch": 0.56, "learning_rate": 4.0625000000000005e-05, "loss": 0.4447, "step": 112500 }, { "epoch": 0.56, "learning_rate": 4.0583333333333335e-05, "loss": 0.4275, "step": 113000 }, { "epoch": 0.57, "learning_rate": 4.0541666666666665e-05, "loss": 0.4389, "step": 113500 }, { "epoch": 0.57, "learning_rate": 4.05e-05, "loss": 0.4344, "step": 114000 }, { "epoch": 0.57, "learning_rate": 4.045833333333334e-05, "loss": 0.4309, "step": 114500 }, { "epoch": 0.57, "learning_rate": 4.041666666666667e-05, "loss": 0.4309, "step": 115000 }, { "epoch": 0.58, "learning_rate": 4.0375e-05, "loss": 0.4351, "step": 115500 }, { "epoch": 0.58, "learning_rate": 4.0333333333333336e-05, "loss": 0.4268, "step": 116000 }, { "epoch": 0.58, "learning_rate": 4.0291666666666666e-05, "loss": 0.4278, "step": 116500 }, { "epoch": 0.58, "learning_rate": 4.025e-05, "loss": 0.4245, "step": 117000 }, { "epoch": 0.59, "learning_rate": 4.020833333333334e-05, "loss": 0.4277, "step": 117500 }, { "epoch": 0.59, "learning_rate": 4.016666666666667e-05, "loss": 0.4117, "step": 118000 }, { "epoch": 0.59, "learning_rate": 4.0125e-05, "loss": 0.423, "step": 118500 }, { "epoch": 0.59, "learning_rate": 4.0083333333333336e-05, "loss": 0.4113, "step": 119000 }, { "epoch": 0.6, "learning_rate": 4.0041666666666666e-05, "loss": 0.4262, "step": 119500 }, { "epoch": 0.6, "learning_rate": 4e-05, "loss": 0.4231, "step": 120000 }, { "epoch": 0.6, "learning_rate": 3.995833333333333e-05, "loss": 0.4238, "step": 120500 }, { "epoch": 0.6, "learning_rate": 3.991666666666667e-05, "loss": 0.41, "step": 121000 }, { "epoch": 0.61, "learning_rate": 3.9875e-05, "loss": 0.417, "step": 121500 }, { "epoch": 0.61, "learning_rate": 3.983333333333333e-05, "loss": 0.4261, "step": 122000 }, { "epoch": 0.61, "learning_rate": 3.979166666666667e-05, "loss": 0.4171, "step": 122500 }, { "epoch": 0.61, "learning_rate": 3.9750000000000004e-05, "loss": 0.4254, "step": 123000 }, { "epoch": 0.62, "learning_rate": 3.9708333333333334e-05, "loss": 0.4146, "step": 123500 }, { "epoch": 0.62, "learning_rate": 3.966666666666667e-05, "loss": 0.4145, "step": 124000 }, { "epoch": 0.62, "learning_rate": 3.9625e-05, "loss": 0.4181, "step": 124500 }, { "epoch": 0.62, "learning_rate": 3.958333333333333e-05, "loss": 0.4211, "step": 125000 }, { "epoch": 0.63, "learning_rate": 3.9541666666666675e-05, "loss": 0.4112, "step": 125500 }, { "epoch": 0.63, "learning_rate": 3.9500000000000005e-05, "loss": 0.421, "step": 126000 }, { "epoch": 0.63, "learning_rate": 3.9458333333333335e-05, "loss": 0.4232, "step": 126500 }, { "epoch": 0.64, "learning_rate": 3.941666666666667e-05, "loss": 0.4125, "step": 127000 }, { "epoch": 0.64, "learning_rate": 3.9375e-05, "loss": 0.4232, "step": 127500 }, { "epoch": 0.64, "learning_rate": 3.933333333333333e-05, "loss": 0.4123, "step": 128000 }, { "epoch": 0.64, "learning_rate": 3.929166666666667e-05, "loss": 0.4106, "step": 128500 }, { "epoch": 0.65, "learning_rate": 3.9250000000000005e-05, "loss": 0.4159, "step": 129000 }, { "epoch": 0.65, "learning_rate": 3.9208333333333335e-05, "loss": 0.4124, "step": 129500 }, { "epoch": 0.65, "learning_rate": 3.9166666666666665e-05, "loss": 0.424, "step": 130000 }, { "epoch": 0.65, "learning_rate": 3.9125e-05, "loss": 0.4185, "step": 130500 }, { "epoch": 0.66, "learning_rate": 3.908333333333333e-05, "loss": 0.4009, "step": 131000 }, { "epoch": 0.66, "learning_rate": 3.904166666666667e-05, "loss": 0.4082, "step": 131500 }, { "epoch": 0.66, "learning_rate": 3.9000000000000006e-05, "loss": 0.4045, "step": 132000 }, { "epoch": 0.66, "learning_rate": 3.8958333333333336e-05, "loss": 0.4043, "step": 132500 }, { "epoch": 0.67, "learning_rate": 3.8916666666666666e-05, "loss": 0.4008, "step": 133000 }, { "epoch": 0.67, "learning_rate": 3.8875e-05, "loss": 0.4064, "step": 133500 }, { "epoch": 0.67, "learning_rate": 3.883333333333333e-05, "loss": 0.3996, "step": 134000 }, { "epoch": 0.67, "learning_rate": 3.879166666666667e-05, "loss": 0.4085, "step": 134500 }, { "epoch": 0.68, "learning_rate": 3.875e-05, "loss": 0.4115, "step": 135000 }, { "epoch": 0.68, "learning_rate": 3.870833333333334e-05, "loss": 0.4025, "step": 135500 }, { "epoch": 0.68, "learning_rate": 3.866666666666667e-05, "loss": 0.4031, "step": 136000 }, { "epoch": 0.68, "learning_rate": 3.8625e-05, "loss": 0.3961, "step": 136500 }, { "epoch": 0.69, "learning_rate": 3.8583333333333334e-05, "loss": 0.4027, "step": 137000 }, { "epoch": 0.69, "learning_rate": 3.854166666666667e-05, "loss": 0.4036, "step": 137500 }, { "epoch": 0.69, "learning_rate": 3.85e-05, "loss": 0.401, "step": 138000 }, { "epoch": 0.69, "learning_rate": 3.845833333333334e-05, "loss": 0.3995, "step": 138500 }, { "epoch": 0.69, "learning_rate": 3.841666666666667e-05, "loss": 0.4029, "step": 139000 }, { "epoch": 0.7, "learning_rate": 3.8375e-05, "loss": 0.4063, "step": 139500 }, { "epoch": 0.7, "learning_rate": 3.8333333333333334e-05, "loss": 0.3945, "step": 140000 }, { "epoch": 0.7, "learning_rate": 3.829166666666667e-05, "loss": 0.3968, "step": 140500 }, { "epoch": 0.7, "learning_rate": 3.825e-05, "loss": 0.4057, "step": 141000 }, { "epoch": 0.71, "learning_rate": 3.820833333333334e-05, "loss": 0.3966, "step": 141500 }, { "epoch": 0.71, "learning_rate": 3.816666666666667e-05, "loss": 0.3954, "step": 142000 }, { "epoch": 0.71, "learning_rate": 3.8125e-05, "loss": 0.3945, "step": 142500 }, { "epoch": 0.71, "learning_rate": 3.8083333333333335e-05, "loss": 0.3933, "step": 143000 }, { "epoch": 0.72, "learning_rate": 3.804166666666667e-05, "loss": 0.3968, "step": 143500 }, { "epoch": 0.72, "learning_rate": 3.8e-05, "loss": 0.3891, "step": 144000 }, { "epoch": 0.72, "learning_rate": 3.795833333333333e-05, "loss": 0.3907, "step": 144500 }, { "epoch": 0.72, "learning_rate": 3.791666666666667e-05, "loss": 0.3929, "step": 145000 }, { "epoch": 0.73, "learning_rate": 3.7875e-05, "loss": 0.3876, "step": 145500 }, { "epoch": 0.73, "learning_rate": 3.7833333333333336e-05, "loss": 0.3951, "step": 146000 }, { "epoch": 0.73, "learning_rate": 3.779166666666667e-05, "loss": 0.3903, "step": 146500 }, { "epoch": 0.73, "learning_rate": 3.775e-05, "loss": 0.3973, "step": 147000 }, { "epoch": 0.74, "learning_rate": 3.770833333333333e-05, "loss": 0.3938, "step": 147500 }, { "epoch": 0.74, "learning_rate": 3.766666666666667e-05, "loss": 0.3967, "step": 148000 }, { "epoch": 0.74, "learning_rate": 3.7625e-05, "loss": 0.3887, "step": 148500 }, { "epoch": 0.74, "learning_rate": 3.7583333333333337e-05, "loss": 0.3929, "step": 149000 }, { "epoch": 0.75, "learning_rate": 3.754166666666667e-05, "loss": 0.3903, "step": 149500 }, { "epoch": 0.75, "learning_rate": 3.7500000000000003e-05, "loss": 0.3893, "step": 150000 }, { "epoch": 0.75, "learning_rate": 3.7458333333333334e-05, "loss": 0.3893, "step": 150500 }, { "epoch": 0.76, "learning_rate": 3.7416666666666664e-05, "loss": 0.3949, "step": 151000 }, { "epoch": 0.76, "learning_rate": 3.737500000000001e-05, "loss": 0.3911, "step": 151500 }, { "epoch": 0.76, "learning_rate": 3.733333333333334e-05, "loss": 0.3928, "step": 152000 }, { "epoch": 0.76, "learning_rate": 3.729166666666667e-05, "loss": 0.3857, "step": 152500 }, { "epoch": 0.77, "learning_rate": 3.7250000000000004e-05, "loss": 0.3921, "step": 153000 }, { "epoch": 0.77, "learning_rate": 3.7208333333333334e-05, "loss": 0.3935, "step": 153500 }, { "epoch": 0.77, "learning_rate": 3.7166666666666664e-05, "loss": 0.3814, "step": 154000 }, { "epoch": 0.77, "learning_rate": 3.7125e-05, "loss": 0.3753, "step": 154500 }, { "epoch": 0.78, "learning_rate": 3.708333333333334e-05, "loss": 0.395, "step": 155000 }, { "epoch": 0.78, "learning_rate": 3.704166666666667e-05, "loss": 0.3846, "step": 155500 }, { "epoch": 0.78, "learning_rate": 3.7e-05, "loss": 0.3849, "step": 156000 }, { "epoch": 0.78, "learning_rate": 3.6958333333333335e-05, "loss": 0.3868, "step": 156500 }, { "epoch": 0.79, "learning_rate": 3.6916666666666665e-05, "loss": 0.3911, "step": 157000 }, { "epoch": 0.79, "learning_rate": 3.6875e-05, "loss": 0.386, "step": 157500 }, { "epoch": 0.79, "learning_rate": 3.683333333333334e-05, "loss": 0.3837, "step": 158000 }, { "epoch": 0.79, "learning_rate": 3.679166666666667e-05, "loss": 0.3804, "step": 158500 }, { "epoch": 0.8, "learning_rate": 3.675e-05, "loss": 0.3866, "step": 159000 }, { "epoch": 0.8, "learning_rate": 3.6708333333333336e-05, "loss": 0.3838, "step": 159500 }, { "epoch": 0.8, "learning_rate": 3.6666666666666666e-05, "loss": 0.381, "step": 160000 }, { "epoch": 0.8, "learning_rate": 3.6625e-05, "loss": 0.3807, "step": 160500 }, { "epoch": 0.81, "learning_rate": 3.658333333333334e-05, "loss": 0.3822, "step": 161000 }, { "epoch": 0.81, "learning_rate": 3.654166666666667e-05, "loss": 0.3864, "step": 161500 }, { "epoch": 0.81, "learning_rate": 3.65e-05, "loss": 0.3789, "step": 162000 }, { "epoch": 0.81, "learning_rate": 3.6458333333333336e-05, "loss": 0.3875, "step": 162500 }, { "epoch": 0.81, "learning_rate": 3.641666666666667e-05, "loss": 0.3826, "step": 163000 }, { "epoch": 0.82, "learning_rate": 3.6375e-05, "loss": 0.3791, "step": 163500 }, { "epoch": 0.82, "learning_rate": 3.633333333333333e-05, "loss": 0.3818, "step": 164000 }, { "epoch": 0.82, "learning_rate": 3.629166666666667e-05, "loss": 0.3705, "step": 164500 }, { "epoch": 0.82, "learning_rate": 3.625e-05, "loss": 0.363, "step": 165000 }, { "epoch": 0.83, "learning_rate": 3.620833333333333e-05, "loss": 0.3744, "step": 165500 }, { "epoch": 0.83, "learning_rate": 3.6166666666666674e-05, "loss": 0.3863, "step": 166000 }, { "epoch": 0.83, "learning_rate": 3.6125000000000004e-05, "loss": 0.3777, "step": 166500 }, { "epoch": 0.83, "learning_rate": 3.6083333333333334e-05, "loss": 0.3773, "step": 167000 }, { "epoch": 0.84, "learning_rate": 3.604166666666667e-05, "loss": 0.3738, "step": 167500 }, { "epoch": 0.84, "learning_rate": 3.6e-05, "loss": 0.3755, "step": 168000 }, { "epoch": 0.84, "learning_rate": 3.595833333333333e-05, "loss": 0.3759, "step": 168500 }, { "epoch": 0.84, "learning_rate": 3.591666666666667e-05, "loss": 0.3827, "step": 169000 }, { "epoch": 0.85, "learning_rate": 3.5875000000000005e-05, "loss": 0.3726, "step": 169500 }, { "epoch": 0.85, "learning_rate": 3.5833333333333335e-05, "loss": 0.3718, "step": 170000 }, { "epoch": 0.85, "learning_rate": 3.5791666666666665e-05, "loss": 0.3689, "step": 170500 }, { "epoch": 0.85, "learning_rate": 3.575e-05, "loss": 0.3799, "step": 171000 }, { "epoch": 0.86, "learning_rate": 3.570833333333333e-05, "loss": 0.3747, "step": 171500 }, { "epoch": 0.86, "learning_rate": 3.566666666666667e-05, "loss": 0.3764, "step": 172000 }, { "epoch": 0.86, "learning_rate": 3.5625000000000005e-05, "loss": 0.3762, "step": 172500 }, { "epoch": 0.86, "learning_rate": 3.5583333333333335e-05, "loss": 0.3819, "step": 173000 }, { "epoch": 0.87, "learning_rate": 3.5541666666666665e-05, "loss": 0.3718, "step": 173500 }, { "epoch": 0.87, "learning_rate": 3.55e-05, "loss": 0.3775, "step": 174000 }, { "epoch": 0.87, "learning_rate": 3.545833333333333e-05, "loss": 0.3658, "step": 174500 }, { "epoch": 0.88, "learning_rate": 3.541666666666667e-05, "loss": 0.372, "step": 175000 }, { "epoch": 0.88, "learning_rate": 3.5375e-05, "loss": 0.3598, "step": 175500 }, { "epoch": 0.88, "learning_rate": 3.5333333333333336e-05, "loss": 0.3703, "step": 176000 }, { "epoch": 0.88, "learning_rate": 3.5291666666666666e-05, "loss": 0.3626, "step": 176500 }, { "epoch": 0.89, "learning_rate": 3.525e-05, "loss": 0.3685, "step": 177000 }, { "epoch": 0.89, "learning_rate": 3.520833333333334e-05, "loss": 0.3626, "step": 177500 }, { "epoch": 0.89, "learning_rate": 3.516666666666667e-05, "loss": 0.3614, "step": 178000 }, { "epoch": 0.89, "learning_rate": 3.5125e-05, "loss": 0.3708, "step": 178500 }, { "epoch": 0.9, "learning_rate": 3.508333333333334e-05, "loss": 0.368, "step": 179000 }, { "epoch": 0.9, "learning_rate": 3.504166666666667e-05, "loss": 0.3684, "step": 179500 }, { "epoch": 0.9, "learning_rate": 3.5e-05, "loss": 0.3651, "step": 180000 }, { "epoch": 0.9, "learning_rate": 3.495833333333334e-05, "loss": 0.3659, "step": 180500 }, { "epoch": 0.91, "learning_rate": 3.491666666666667e-05, "loss": 0.3624, "step": 181000 }, { "epoch": 0.91, "learning_rate": 3.4875e-05, "loss": 0.3666, "step": 181500 }, { "epoch": 0.91, "learning_rate": 3.483333333333334e-05, "loss": 0.3661, "step": 182000 }, { "epoch": 0.91, "learning_rate": 3.479166666666667e-05, "loss": 0.3652, "step": 182500 }, { "epoch": 0.92, "learning_rate": 3.475e-05, "loss": 0.3649, "step": 183000 }, { "epoch": 0.92, "learning_rate": 3.4708333333333334e-05, "loss": 0.358, "step": 183500 }, { "epoch": 0.92, "learning_rate": 3.466666666666667e-05, "loss": 0.364, "step": 184000 }, { "epoch": 0.92, "learning_rate": 3.4625e-05, "loss": 0.3655, "step": 184500 }, { "epoch": 0.93, "learning_rate": 3.458333333333333e-05, "loss": 0.3632, "step": 185000 }, { "epoch": 0.93, "learning_rate": 3.454166666666667e-05, "loss": 0.3645, "step": 185500 }, { "epoch": 0.93, "learning_rate": 3.45e-05, "loss": 0.362, "step": 186000 }, { "epoch": 0.93, "learning_rate": 3.4458333333333335e-05, "loss": 0.3571, "step": 186500 }, { "epoch": 0.94, "learning_rate": 3.441666666666667e-05, "loss": 0.3616, "step": 187000 }, { "epoch": 0.94, "learning_rate": 3.4375e-05, "loss": 0.3624, "step": 187500 }, { "epoch": 0.94, "learning_rate": 3.433333333333333e-05, "loss": 0.3658, "step": 188000 }, { "epoch": 0.94, "learning_rate": 3.429166666666667e-05, "loss": 0.3641, "step": 188500 }, { "epoch": 0.94, "learning_rate": 3.4250000000000006e-05, "loss": 0.3634, "step": 189000 }, { "epoch": 0.95, "learning_rate": 3.4208333333333336e-05, "loss": 0.3471, "step": 189500 }, { "epoch": 0.95, "learning_rate": 3.4166666666666666e-05, "loss": 0.3552, "step": 190000 }, { "epoch": 0.95, "learning_rate": 3.4125e-05, "loss": 0.3647, "step": 190500 }, { "epoch": 0.95, "learning_rate": 3.408333333333333e-05, "loss": 0.3558, "step": 191000 }, { "epoch": 0.96, "learning_rate": 3.404166666666666e-05, "loss": 0.3582, "step": 191500 }, { "epoch": 0.96, "learning_rate": 3.4000000000000007e-05, "loss": 0.3594, "step": 192000 }, { "epoch": 0.96, "learning_rate": 3.3958333333333337e-05, "loss": 0.3449, "step": 192500 }, { "epoch": 0.96, "learning_rate": 3.391666666666667e-05, "loss": 0.3604, "step": 193000 }, { "epoch": 0.97, "learning_rate": 3.3875000000000003e-05, "loss": 0.3581, "step": 193500 }, { "epoch": 0.97, "learning_rate": 3.3833333333333334e-05, "loss": 0.3572, "step": 194000 }, { "epoch": 0.97, "learning_rate": 3.3791666666666664e-05, "loss": 0.3599, "step": 194500 }, { "epoch": 0.97, "learning_rate": 3.375000000000001e-05, "loss": 0.3543, "step": 195000 }, { "epoch": 0.98, "learning_rate": 3.370833333333334e-05, "loss": 0.3551, "step": 195500 }, { "epoch": 0.98, "learning_rate": 3.366666666666667e-05, "loss": 0.3594, "step": 196000 }, { "epoch": 0.98, "learning_rate": 3.3625000000000004e-05, "loss": 0.3541, "step": 196500 }, { "epoch": 0.98, "learning_rate": 3.3583333333333334e-05, "loss": 0.3635, "step": 197000 }, { "epoch": 0.99, "learning_rate": 3.3541666666666664e-05, "loss": 0.3541, "step": 197500 }, { "epoch": 0.99, "learning_rate": 3.35e-05, "loss": 0.3523, "step": 198000 }, { "epoch": 0.99, "learning_rate": 3.345833333333334e-05, "loss": 0.3558, "step": 198500 }, { "epoch": 0.99, "learning_rate": 3.341666666666667e-05, "loss": 0.3562, "step": 199000 }, { "epoch": 1.0, "learning_rate": 3.3375e-05, "loss": 0.3557, "step": 199500 }, { "epoch": 1.0, "learning_rate": 3.3333333333333335e-05, "loss": 0.3567, "step": 200000 }, { "epoch": 1.0, "learning_rate": 3.329166666666667e-05, "loss": 0.3511, "step": 200500 }, { "epoch": 1.0, "learning_rate": 3.325e-05, "loss": 0.3444, "step": 201000 }, { "epoch": 1.01, "learning_rate": 3.320833333333334e-05, "loss": 0.3488, "step": 201500 }, { "epoch": 1.01, "learning_rate": 3.316666666666667e-05, "loss": 0.3446, "step": 202000 }, { "epoch": 1.01, "learning_rate": 3.3125e-05, "loss": 0.3508, "step": 202500 }, { "epoch": 1.01, "learning_rate": 3.3083333333333336e-05, "loss": 0.3497, "step": 203000 }, { "epoch": 1.02, "learning_rate": 3.304166666666667e-05, "loss": 0.3487, "step": 203500 }, { "epoch": 1.02, "learning_rate": 3.3e-05, "loss": 0.3453, "step": 204000 }, { "epoch": 1.02, "learning_rate": 3.295833333333333e-05, "loss": 0.3432, "step": 204500 }, { "epoch": 1.02, "learning_rate": 3.291666666666667e-05, "loss": 0.3394, "step": 205000 }, { "epoch": 1.03, "learning_rate": 3.2875e-05, "loss": 0.3523, "step": 205500 }, { "epoch": 1.03, "learning_rate": 3.283333333333333e-05, "loss": 0.3419, "step": 206000 }, { "epoch": 1.03, "learning_rate": 3.279166666666667e-05, "loss": 0.3476, "step": 206500 }, { "epoch": 1.03, "learning_rate": 3.275e-05, "loss": 0.3503, "step": 207000 }, { "epoch": 1.04, "learning_rate": 3.270833333333333e-05, "loss": 0.3535, "step": 207500 }, { "epoch": 1.04, "learning_rate": 3.266666666666667e-05, "loss": 0.3518, "step": 208000 }, { "epoch": 1.04, "learning_rate": 3.2625e-05, "loss": 0.3433, "step": 208500 }, { "epoch": 1.04, "learning_rate": 3.258333333333333e-05, "loss": 0.3501, "step": 209000 }, { "epoch": 1.05, "learning_rate": 3.254166666666667e-05, "loss": 0.3464, "step": 209500 }, { "epoch": 1.05, "learning_rate": 3.2500000000000004e-05, "loss": 0.3519, "step": 210000 }, { "epoch": 1.05, "learning_rate": 3.2458333333333334e-05, "loss": 0.3445, "step": 210500 }, { "epoch": 1.05, "learning_rate": 3.2416666666666664e-05, "loss": 0.3525, "step": 211000 }, { "epoch": 1.06, "learning_rate": 3.2375e-05, "loss": 0.3488, "step": 211500 }, { "epoch": 1.06, "learning_rate": 3.233333333333333e-05, "loss": 0.3425, "step": 212000 }, { "epoch": 1.06, "learning_rate": 3.229166666666667e-05, "loss": 0.3517, "step": 212500 }, { "epoch": 1.06, "learning_rate": 3.2250000000000005e-05, "loss": 0.3439, "step": 213000 }, { "epoch": 1.07, "learning_rate": 3.2208333333333335e-05, "loss": 0.3405, "step": 213500 }, { "epoch": 1.07, "learning_rate": 3.2166666666666665e-05, "loss": 0.3463, "step": 214000 }, { "epoch": 1.07, "learning_rate": 3.2125e-05, "loss": 0.3429, "step": 214500 }, { "epoch": 1.07, "learning_rate": 3.208333333333334e-05, "loss": 0.3422, "step": 215000 }, { "epoch": 1.08, "learning_rate": 3.204166666666667e-05, "loss": 0.3475, "step": 215500 }, { "epoch": 1.08, "learning_rate": 3.2000000000000005e-05, "loss": 0.3515, "step": 216000 }, { "epoch": 1.08, "learning_rate": 3.1958333333333335e-05, "loss": 0.342, "step": 216500 }, { "epoch": 1.08, "learning_rate": 3.1916666666666665e-05, "loss": 0.3484, "step": 217000 }, { "epoch": 1.09, "learning_rate": 3.1875e-05, "loss": 0.3449, "step": 217500 }, { "epoch": 1.09, "learning_rate": 3.183333333333334e-05, "loss": 0.3429, "step": 218000 }, { "epoch": 1.09, "learning_rate": 3.179166666666667e-05, "loss": 0.3383, "step": 218500 }, { "epoch": 1.09, "learning_rate": 3.175e-05, "loss": 0.3432, "step": 219000 }, { "epoch": 1.1, "learning_rate": 3.1708333333333336e-05, "loss": 0.3385, "step": 219500 }, { "epoch": 1.1, "learning_rate": 3.1666666666666666e-05, "loss": 0.3285, "step": 220000 }, { "epoch": 1.1, "learning_rate": 3.1624999999999996e-05, "loss": 0.3446, "step": 220500 }, { "epoch": 1.1, "learning_rate": 3.158333333333334e-05, "loss": 0.3352, "step": 221000 }, { "epoch": 1.11, "learning_rate": 3.154166666666667e-05, "loss": 0.3431, "step": 221500 }, { "epoch": 1.11, "learning_rate": 3.15e-05, "loss": 0.3465, "step": 222000 }, { "epoch": 1.11, "learning_rate": 3.145833333333334e-05, "loss": 0.333, "step": 222500 }, { "epoch": 1.11, "learning_rate": 3.141666666666667e-05, "loss": 0.3382, "step": 223000 }, { "epoch": 1.12, "learning_rate": 3.1375e-05, "loss": 0.3455, "step": 223500 }, { "epoch": 1.12, "learning_rate": 3.1333333333333334e-05, "loss": 0.3465, "step": 224000 }, { "epoch": 1.12, "learning_rate": 3.129166666666667e-05, "loss": 0.3421, "step": 224500 }, { "epoch": 1.12, "learning_rate": 3.125e-05, "loss": 0.3258, "step": 225000 }, { "epoch": 1.13, "learning_rate": 3.120833333333333e-05, "loss": 0.3461, "step": 225500 }, { "epoch": 1.13, "learning_rate": 3.116666666666667e-05, "loss": 0.3361, "step": 226000 }, { "epoch": 1.13, "learning_rate": 3.1125000000000004e-05, "loss": 0.3332, "step": 226500 }, { "epoch": 1.14, "learning_rate": 3.1083333333333334e-05, "loss": 0.3416, "step": 227000 }, { "epoch": 1.14, "learning_rate": 3.104166666666667e-05, "loss": 0.3296, "step": 227500 }, { "epoch": 1.14, "learning_rate": 3.1e-05, "loss": 0.3406, "step": 228000 }, { "epoch": 1.14, "learning_rate": 3.095833333333333e-05, "loss": 0.3354, "step": 228500 }, { "epoch": 1.15, "learning_rate": 3.091666666666667e-05, "loss": 0.3354, "step": 229000 }, { "epoch": 1.15, "learning_rate": 3.0875000000000005e-05, "loss": 0.3383, "step": 229500 }, { "epoch": 1.15, "learning_rate": 3.0833333333333335e-05, "loss": 0.3267, "step": 230000 }, { "epoch": 1.15, "learning_rate": 3.079166666666667e-05, "loss": 0.3337, "step": 230500 }, { "epoch": 1.16, "learning_rate": 3.075e-05, "loss": 0.3337, "step": 231000 }, { "epoch": 1.16, "learning_rate": 3.070833333333333e-05, "loss": 0.3382, "step": 231500 }, { "epoch": 1.16, "learning_rate": 3.066666666666667e-05, "loss": 0.33, "step": 232000 }, { "epoch": 1.16, "learning_rate": 3.0625000000000006e-05, "loss": 0.3357, "step": 232500 }, { "epoch": 1.17, "learning_rate": 3.0583333333333336e-05, "loss": 0.3436, "step": 233000 }, { "epoch": 1.17, "learning_rate": 3.0541666666666666e-05, "loss": 0.3325, "step": 233500 }, { "epoch": 1.17, "learning_rate": 3.05e-05, "loss": 0.3407, "step": 234000 }, { "epoch": 1.17, "learning_rate": 3.0458333333333333e-05, "loss": 0.3236, "step": 234500 }, { "epoch": 1.18, "learning_rate": 3.0416666666666666e-05, "loss": 0.3352, "step": 235000 }, { "epoch": 1.18, "learning_rate": 3.0375000000000003e-05, "loss": 0.3312, "step": 235500 }, { "epoch": 1.18, "learning_rate": 3.0333333333333337e-05, "loss": 0.3382, "step": 236000 }, { "epoch": 1.18, "learning_rate": 3.0291666666666667e-05, "loss": 0.3389, "step": 236500 }, { "epoch": 1.19, "learning_rate": 3.025e-05, "loss": 0.3284, "step": 237000 }, { "epoch": 1.19, "learning_rate": 3.0208333333333334e-05, "loss": 0.3283, "step": 237500 }, { "epoch": 1.19, "learning_rate": 3.016666666666667e-05, "loss": 0.332, "step": 238000 }, { "epoch": 1.19, "learning_rate": 3.0125000000000004e-05, "loss": 0.3222, "step": 238500 }, { "epoch": 1.2, "learning_rate": 3.0083333333333337e-05, "loss": 0.3345, "step": 239000 }, { "epoch": 1.2, "learning_rate": 3.0041666666666667e-05, "loss": 0.3236, "step": 239500 }, { "epoch": 1.2, "learning_rate": 3e-05, "loss": 0.3266, "step": 240000 }, { "epoch": 1.2, "learning_rate": 2.9958333333333334e-05, "loss": 0.3295, "step": 240500 }, { "epoch": 1.21, "learning_rate": 2.991666666666667e-05, "loss": 0.3306, "step": 241000 }, { "epoch": 1.21, "learning_rate": 2.9875000000000004e-05, "loss": 0.3337, "step": 241500 }, { "epoch": 1.21, "learning_rate": 2.9833333333333335e-05, "loss": 0.3251, "step": 242000 }, { "epoch": 1.21, "learning_rate": 2.9791666666666668e-05, "loss": 0.331, "step": 242500 }, { "epoch": 1.22, "learning_rate": 2.975e-05, "loss": 0.3353, "step": 243000 }, { "epoch": 1.22, "learning_rate": 2.970833333333333e-05, "loss": 0.3291, "step": 243500 }, { "epoch": 1.22, "learning_rate": 2.9666666666666672e-05, "loss": 0.3384, "step": 244000 }, { "epoch": 1.22, "learning_rate": 2.9625000000000002e-05, "loss": 0.325, "step": 244500 }, { "epoch": 1.23, "learning_rate": 2.9583333333333335e-05, "loss": 0.3286, "step": 245000 }, { "epoch": 1.23, "learning_rate": 2.954166666666667e-05, "loss": 0.3242, "step": 245500 }, { "epoch": 1.23, "learning_rate": 2.95e-05, "loss": 0.3278, "step": 246000 }, { "epoch": 1.23, "learning_rate": 2.9458333333333332e-05, "loss": 0.3247, "step": 246500 }, { "epoch": 1.23, "learning_rate": 2.941666666666667e-05, "loss": 0.3304, "step": 247000 }, { "epoch": 1.24, "learning_rate": 2.9375000000000003e-05, "loss": 0.3333, "step": 247500 }, { "epoch": 1.24, "learning_rate": 2.9333333333333336e-05, "loss": 0.3273, "step": 248000 }, { "epoch": 1.24, "learning_rate": 2.9291666666666666e-05, "loss": 0.3305, "step": 248500 }, { "epoch": 1.25, "learning_rate": 2.925e-05, "loss": 0.3287, "step": 249000 }, { "epoch": 1.25, "learning_rate": 2.9208333333333333e-05, "loss": 0.3258, "step": 249500 }, { "epoch": 1.25, "learning_rate": 2.916666666666667e-05, "loss": 0.3149, "step": 250000 }, { "epoch": 1.25, "learning_rate": 2.9125000000000003e-05, "loss": 0.3313, "step": 250500 }, { "epoch": 1.25, "learning_rate": 2.9083333333333333e-05, "loss": 0.3192, "step": 251000 }, { "epoch": 1.26, "learning_rate": 2.9041666666666667e-05, "loss": 0.3241, "step": 251500 }, { "epoch": 1.26, "learning_rate": 2.9e-05, "loss": 0.3263, "step": 252000 }, { "epoch": 1.26, "learning_rate": 2.8958333333333337e-05, "loss": 0.3299, "step": 252500 }, { "epoch": 1.27, "learning_rate": 2.891666666666667e-05, "loss": 0.3306, "step": 253000 }, { "epoch": 1.27, "learning_rate": 2.8875e-05, "loss": 0.319, "step": 253500 }, { "epoch": 1.27, "learning_rate": 2.8833333333333334e-05, "loss": 0.3267, "step": 254000 }, { "epoch": 1.27, "learning_rate": 2.8791666666666667e-05, "loss": 0.3212, "step": 254500 }, { "epoch": 1.27, "learning_rate": 2.8749999999999997e-05, "loss": 0.3274, "step": 255000 }, { "epoch": 1.28, "learning_rate": 2.8708333333333338e-05, "loss": 0.3155, "step": 255500 }, { "epoch": 1.28, "learning_rate": 2.8666666666666668e-05, "loss": 0.3282, "step": 256000 }, { "epoch": 1.28, "learning_rate": 2.8625e-05, "loss": 0.3197, "step": 256500 }, { "epoch": 1.28, "learning_rate": 2.8583333333333335e-05, "loss": 0.3261, "step": 257000 }, { "epoch": 1.29, "learning_rate": 2.8541666666666668e-05, "loss": 0.3206, "step": 257500 }, { "epoch": 1.29, "learning_rate": 2.8499999999999998e-05, "loss": 0.3206, "step": 258000 }, { "epoch": 1.29, "learning_rate": 2.845833333333334e-05, "loss": 0.3173, "step": 258500 }, { "epoch": 1.29, "learning_rate": 2.841666666666667e-05, "loss": 0.3236, "step": 259000 }, { "epoch": 1.3, "learning_rate": 2.8375000000000002e-05, "loss": 0.3257, "step": 259500 }, { "epoch": 1.3, "learning_rate": 2.8333333333333335e-05, "loss": 0.3205, "step": 260000 }, { "epoch": 1.3, "learning_rate": 2.8291666666666665e-05, "loss": 0.3244, "step": 260500 }, { "epoch": 1.3, "learning_rate": 2.825e-05, "loss": 0.3229, "step": 261000 }, { "epoch": 1.31, "learning_rate": 2.8208333333333336e-05, "loss": 0.322, "step": 261500 }, { "epoch": 1.31, "learning_rate": 2.816666666666667e-05, "loss": 0.3157, "step": 262000 }, { "epoch": 1.31, "learning_rate": 2.8125000000000003e-05, "loss": 0.3185, "step": 262500 }, { "epoch": 1.31, "learning_rate": 2.8083333333333333e-05, "loss": 0.3212, "step": 263000 }, { "epoch": 1.32, "learning_rate": 2.8041666666666666e-05, "loss": 0.3226, "step": 263500 }, { "epoch": 1.32, "learning_rate": 2.8000000000000003e-05, "loss": 0.3199, "step": 264000 }, { "epoch": 1.32, "learning_rate": 2.7958333333333336e-05, "loss": 0.3213, "step": 264500 }, { "epoch": 1.32, "learning_rate": 2.791666666666667e-05, "loss": 0.318, "step": 265000 }, { "epoch": 1.33, "learning_rate": 2.7875e-05, "loss": 0.3196, "step": 265500 }, { "epoch": 1.33, "learning_rate": 2.7833333333333333e-05, "loss": 0.3244, "step": 266000 }, { "epoch": 1.33, "learning_rate": 2.7791666666666667e-05, "loss": 0.3218, "step": 266500 }, { "epoch": 1.33, "learning_rate": 2.7750000000000004e-05, "loss": 0.3245, "step": 267000 }, { "epoch": 1.34, "learning_rate": 2.7708333333333337e-05, "loss": 0.3234, "step": 267500 }, { "epoch": 1.34, "learning_rate": 2.7666666666666667e-05, "loss": 0.3266, "step": 268000 }, { "epoch": 1.34, "learning_rate": 2.7625e-05, "loss": 0.3242, "step": 268500 }, { "epoch": 1.34, "learning_rate": 2.7583333333333334e-05, "loss": 0.3219, "step": 269000 }, { "epoch": 1.35, "learning_rate": 2.7541666666666664e-05, "loss": 0.3165, "step": 269500 }, { "epoch": 1.35, "learning_rate": 2.7500000000000004e-05, "loss": 0.3199, "step": 270000 }, { "epoch": 1.35, "learning_rate": 2.7458333333333334e-05, "loss": 0.3166, "step": 270500 }, { "epoch": 1.35, "learning_rate": 2.7416666666666668e-05, "loss": 0.319, "step": 271000 }, { "epoch": 1.36, "learning_rate": 2.7375e-05, "loss": 0.3213, "step": 271500 }, { "epoch": 1.36, "learning_rate": 2.733333333333333e-05, "loss": 0.3143, "step": 272000 }, { "epoch": 1.36, "learning_rate": 2.7291666666666665e-05, "loss": 0.3179, "step": 272500 }, { "epoch": 1.36, "learning_rate": 2.725e-05, "loss": 0.314, "step": 273000 }, { "epoch": 1.37, "learning_rate": 2.7208333333333335e-05, "loss": 0.3192, "step": 273500 }, { "epoch": 1.37, "learning_rate": 2.716666666666667e-05, "loss": 0.3148, "step": 274000 }, { "epoch": 1.37, "learning_rate": 2.7125000000000002e-05, "loss": 0.3259, "step": 274500 }, { "epoch": 1.38, "learning_rate": 2.7083333333333332e-05, "loss": 0.3136, "step": 275000 }, { "epoch": 1.38, "learning_rate": 2.7041666666666672e-05, "loss": 0.3162, "step": 275500 }, { "epoch": 1.38, "learning_rate": 2.7000000000000002e-05, "loss": 0.3129, "step": 276000 }, { "epoch": 1.38, "learning_rate": 2.6958333333333336e-05, "loss": 0.3204, "step": 276500 }, { "epoch": 1.39, "learning_rate": 2.691666666666667e-05, "loss": 0.3149, "step": 277000 }, { "epoch": 1.39, "learning_rate": 2.6875e-05, "loss": 0.3165, "step": 277500 }, { "epoch": 1.39, "learning_rate": 2.6833333333333333e-05, "loss": 0.3175, "step": 278000 }, { "epoch": 1.39, "learning_rate": 2.679166666666667e-05, "loss": 0.3151, "step": 278500 }, { "epoch": 1.4, "learning_rate": 2.6750000000000003e-05, "loss": 0.3226, "step": 279000 }, { "epoch": 1.4, "learning_rate": 2.6708333333333337e-05, "loss": 0.3087, "step": 279500 }, { "epoch": 1.4, "learning_rate": 2.6666666666666667e-05, "loss": 0.3177, "step": 280000 }, { "epoch": 1.4, "learning_rate": 2.6625e-05, "loss": 0.324, "step": 280500 }, { "epoch": 1.41, "learning_rate": 2.6583333333333333e-05, "loss": 0.3168, "step": 281000 }, { "epoch": 1.41, "learning_rate": 2.654166666666667e-05, "loss": 0.3102, "step": 281500 }, { "epoch": 1.41, "learning_rate": 2.6500000000000004e-05, "loss": 0.3105, "step": 282000 }, { "epoch": 1.41, "learning_rate": 2.6458333333333334e-05, "loss": 0.3129, "step": 282500 }, { "epoch": 1.42, "learning_rate": 2.6416666666666667e-05, "loss": 0.3078, "step": 283000 }, { "epoch": 1.42, "learning_rate": 2.6375e-05, "loss": 0.3143, "step": 283500 }, { "epoch": 1.42, "learning_rate": 2.633333333333333e-05, "loss": 0.3129, "step": 284000 }, { "epoch": 1.42, "learning_rate": 2.629166666666667e-05, "loss": 0.309, "step": 284500 }, { "epoch": 1.43, "learning_rate": 2.625e-05, "loss": 0.317, "step": 285000 }, { "epoch": 1.43, "learning_rate": 2.6208333333333335e-05, "loss": 0.3097, "step": 285500 }, { "epoch": 1.43, "learning_rate": 2.6166666666666668e-05, "loss": 0.3122, "step": 286000 }, { "epoch": 1.43, "learning_rate": 2.6124999999999998e-05, "loss": 0.3124, "step": 286500 }, { "epoch": 1.44, "learning_rate": 2.608333333333333e-05, "loss": 0.3169, "step": 287000 }, { "epoch": 1.44, "learning_rate": 2.604166666666667e-05, "loss": 0.3202, "step": 287500 }, { "epoch": 1.44, "learning_rate": 2.6000000000000002e-05, "loss": 0.3132, "step": 288000 }, { "epoch": 1.44, "learning_rate": 2.5958333333333335e-05, "loss": 0.314, "step": 288500 }, { "epoch": 1.45, "learning_rate": 2.5916666666666665e-05, "loss": 0.3101, "step": 289000 }, { "epoch": 1.45, "learning_rate": 2.5875e-05, "loss": 0.3123, "step": 289500 }, { "epoch": 1.45, "learning_rate": 2.5833333333333336e-05, "loss": 0.3118, "step": 290000 }, { "epoch": 1.45, "learning_rate": 2.579166666666667e-05, "loss": 0.3165, "step": 290500 }, { "epoch": 1.46, "learning_rate": 2.5750000000000002e-05, "loss": 0.3024, "step": 291000 }, { "epoch": 1.46, "learning_rate": 2.5708333333333336e-05, "loss": 0.309, "step": 291500 }, { "epoch": 1.46, "learning_rate": 2.5666666666666666e-05, "loss": 0.303, "step": 292000 }, { "epoch": 1.46, "learning_rate": 2.5625e-05, "loss": 0.3103, "step": 292500 }, { "epoch": 1.47, "learning_rate": 2.5583333333333336e-05, "loss": 0.307, "step": 293000 }, { "epoch": 1.47, "learning_rate": 2.554166666666667e-05, "loss": 0.3174, "step": 293500 }, { "epoch": 1.47, "learning_rate": 2.5500000000000003e-05, "loss": 0.3081, "step": 294000 }, { "epoch": 1.47, "learning_rate": 2.5458333333333333e-05, "loss": 0.3188, "step": 294500 }, { "epoch": 1.48, "learning_rate": 2.5416666666666667e-05, "loss": 0.3056, "step": 295000 }, { "epoch": 1.48, "learning_rate": 2.5375e-05, "loss": 0.3145, "step": 295500 }, { "epoch": 1.48, "learning_rate": 2.5333333333333337e-05, "loss": 0.3143, "step": 296000 }, { "epoch": 1.48, "learning_rate": 2.529166666666667e-05, "loss": 0.3126, "step": 296500 }, { "epoch": 1.48, "learning_rate": 2.525e-05, "loss": 0.3089, "step": 297000 }, { "epoch": 1.49, "learning_rate": 2.5208333333333334e-05, "loss": 0.3077, "step": 297500 }, { "epoch": 1.49, "learning_rate": 2.5166666666666667e-05, "loss": 0.3061, "step": 298000 }, { "epoch": 1.49, "learning_rate": 2.5124999999999997e-05, "loss": 0.304, "step": 298500 }, { "epoch": 1.5, "learning_rate": 2.5083333333333338e-05, "loss": 0.3091, "step": 299000 }, { "epoch": 1.5, "learning_rate": 2.5041666666666668e-05, "loss": 0.3055, "step": 299500 }, { "epoch": 1.5, "learning_rate": 2.5e-05, "loss": 0.3108, "step": 300000 }, { "epoch": 1.5, "learning_rate": 2.4958333333333335e-05, "loss": 0.3142, "step": 300500 }, { "epoch": 1.5, "learning_rate": 2.4916666666666668e-05, "loss": 0.3027, "step": 301000 }, { "epoch": 1.51, "learning_rate": 2.4875e-05, "loss": 0.3092, "step": 301500 }, { "epoch": 1.51, "learning_rate": 2.4833333333333335e-05, "loss": 0.3119, "step": 302000 }, { "epoch": 1.51, "learning_rate": 2.479166666666667e-05, "loss": 0.3055, "step": 302500 }, { "epoch": 1.52, "learning_rate": 2.4750000000000002e-05, "loss": 0.3071, "step": 303000 }, { "epoch": 1.52, "learning_rate": 2.4708333333333332e-05, "loss": 0.3088, "step": 303500 }, { "epoch": 1.52, "learning_rate": 2.466666666666667e-05, "loss": 0.3053, "step": 304000 }, { "epoch": 1.52, "learning_rate": 2.4625000000000002e-05, "loss": 0.3089, "step": 304500 }, { "epoch": 1.52, "learning_rate": 2.4583333333333332e-05, "loss": 0.306, "step": 305000 }, { "epoch": 1.53, "learning_rate": 2.454166666666667e-05, "loss": 0.3053, "step": 305500 }, { "epoch": 1.53, "learning_rate": 2.45e-05, "loss": 0.3117, "step": 306000 }, { "epoch": 1.53, "learning_rate": 2.4458333333333336e-05, "loss": 0.3112, "step": 306500 }, { "epoch": 1.54, "learning_rate": 2.441666666666667e-05, "loss": 0.3068, "step": 307000 }, { "epoch": 1.54, "learning_rate": 2.4375e-05, "loss": 0.3011, "step": 307500 }, { "epoch": 1.54, "learning_rate": 2.4333333333333336e-05, "loss": 0.3119, "step": 308000 }, { "epoch": 1.54, "learning_rate": 2.4291666666666666e-05, "loss": 0.302, "step": 308500 }, { "epoch": 1.54, "learning_rate": 2.425e-05, "loss": 0.3056, "step": 309000 }, { "epoch": 1.55, "learning_rate": 2.4208333333333337e-05, "loss": 0.3055, "step": 309500 }, { "epoch": 1.55, "learning_rate": 2.4166666666666667e-05, "loss": 0.3103, "step": 310000 }, { "epoch": 1.55, "learning_rate": 2.4125e-05, "loss": 0.3045, "step": 310500 }, { "epoch": 1.56, "learning_rate": 2.4083333333333337e-05, "loss": 0.3073, "step": 311000 }, { "epoch": 1.56, "learning_rate": 2.4041666666666667e-05, "loss": 0.3007, "step": 311500 }, { "epoch": 1.56, "learning_rate": 2.4e-05, "loss": 0.3085, "step": 312000 }, { "epoch": 1.56, "learning_rate": 2.3958333333333334e-05, "loss": 0.3038, "step": 312500 }, { "epoch": 1.56, "learning_rate": 2.3916666666666668e-05, "loss": 0.3029, "step": 313000 }, { "epoch": 1.57, "learning_rate": 2.3875e-05, "loss": 0.3078, "step": 313500 }, { "epoch": 1.57, "learning_rate": 2.3833333333333334e-05, "loss": 0.3069, "step": 314000 }, { "epoch": 1.57, "learning_rate": 2.3791666666666668e-05, "loss": 0.302, "step": 314500 }, { "epoch": 1.57, "learning_rate": 2.375e-05, "loss": 0.3046, "step": 315000 }, { "epoch": 1.58, "learning_rate": 2.3708333333333335e-05, "loss": 0.2995, "step": 315500 }, { "epoch": 1.58, "learning_rate": 2.3666666666666668e-05, "loss": 0.2975, "step": 316000 }, { "epoch": 1.58, "learning_rate": 2.3624999999999998e-05, "loss": 0.2988, "step": 316500 }, { "epoch": 1.58, "learning_rate": 2.3583333333333335e-05, "loss": 0.3026, "step": 317000 }, { "epoch": 1.59, "learning_rate": 2.354166666666667e-05, "loss": 0.3025, "step": 317500 }, { "epoch": 1.59, "learning_rate": 2.35e-05, "loss": 0.3, "step": 318000 }, { "epoch": 1.59, "learning_rate": 2.3458333333333335e-05, "loss": 0.3016, "step": 318500 }, { "epoch": 1.59, "learning_rate": 2.341666666666667e-05, "loss": 0.3065, "step": 319000 }, { "epoch": 1.6, "learning_rate": 2.3375000000000002e-05, "loss": 0.3077, "step": 319500 }, { "epoch": 1.6, "learning_rate": 2.3333333333333336e-05, "loss": 0.3033, "step": 320000 }, { "epoch": 1.6, "learning_rate": 2.3291666666666666e-05, "loss": 0.304, "step": 320500 }, { "epoch": 1.6, "learning_rate": 2.3250000000000003e-05, "loss": 0.3056, "step": 321000 }, { "epoch": 1.61, "learning_rate": 2.3208333333333336e-05, "loss": 0.2971, "step": 321500 }, { "epoch": 1.61, "learning_rate": 2.3166666666666666e-05, "loss": 0.3087, "step": 322000 }, { "epoch": 1.61, "learning_rate": 2.3125000000000003e-05, "loss": 0.3063, "step": 322500 }, { "epoch": 1.61, "learning_rate": 2.3083333333333333e-05, "loss": 0.2991, "step": 323000 }, { "epoch": 1.62, "learning_rate": 2.3041666666666667e-05, "loss": 0.3062, "step": 323500 }, { "epoch": 1.62, "learning_rate": 2.3000000000000003e-05, "loss": 0.297, "step": 324000 }, { "epoch": 1.62, "learning_rate": 2.2958333333333333e-05, "loss": 0.2911, "step": 324500 }, { "epoch": 1.62, "learning_rate": 2.2916666666666667e-05, "loss": 0.307, "step": 325000 }, { "epoch": 1.63, "learning_rate": 2.2875e-05, "loss": 0.3009, "step": 325500 }, { "epoch": 1.63, "learning_rate": 2.2833333333333334e-05, "loss": 0.3021, "step": 326000 }, { "epoch": 1.63, "learning_rate": 2.2791666666666667e-05, "loss": 0.2991, "step": 326500 }, { "epoch": 1.64, "learning_rate": 2.275e-05, "loss": 0.2933, "step": 327000 }, { "epoch": 1.64, "learning_rate": 2.2708333333333334e-05, "loss": 0.2967, "step": 327500 }, { "epoch": 1.64, "learning_rate": 2.2666666666666668e-05, "loss": 0.2943, "step": 328000 }, { "epoch": 1.64, "learning_rate": 2.2625e-05, "loss": 0.2966, "step": 328500 }, { "epoch": 1.65, "learning_rate": 2.2583333333333335e-05, "loss": 0.2985, "step": 329000 }, { "epoch": 1.65, "learning_rate": 2.2541666666666668e-05, "loss": 0.2999, "step": 329500 }, { "epoch": 1.65, "learning_rate": 2.25e-05, "loss": 0.2974, "step": 330000 }, { "epoch": 1.65, "learning_rate": 2.2458333333333335e-05, "loss": 0.3045, "step": 330500 }, { "epoch": 1.66, "learning_rate": 2.2416666666666665e-05, "loss": 0.3074, "step": 331000 }, { "epoch": 1.66, "learning_rate": 2.2375000000000002e-05, "loss": 0.2948, "step": 331500 }, { "epoch": 1.66, "learning_rate": 2.2333333333333335e-05, "loss": 0.307, "step": 332000 }, { "epoch": 1.66, "learning_rate": 2.229166666666667e-05, "loss": 0.3034, "step": 332500 }, { "epoch": 1.67, "learning_rate": 2.2250000000000002e-05, "loss": 0.3007, "step": 333000 }, { "epoch": 1.67, "learning_rate": 2.2208333333333332e-05, "loss": 0.3007, "step": 333500 }, { "epoch": 1.67, "learning_rate": 2.216666666666667e-05, "loss": 0.3049, "step": 334000 }, { "epoch": 1.67, "learning_rate": 2.2125000000000002e-05, "loss": 0.2948, "step": 334500 }, { "epoch": 1.68, "learning_rate": 2.2083333333333333e-05, "loss": 0.2995, "step": 335000 }, { "epoch": 1.68, "learning_rate": 2.204166666666667e-05, "loss": 0.3036, "step": 335500 }, { "epoch": 1.68, "learning_rate": 2.2000000000000003e-05, "loss": 0.2983, "step": 336000 }, { "epoch": 1.68, "learning_rate": 2.1958333333333333e-05, "loss": 0.3012, "step": 336500 }, { "epoch": 1.69, "learning_rate": 2.191666666666667e-05, "loss": 0.2998, "step": 337000 }, { "epoch": 1.69, "learning_rate": 2.1875e-05, "loss": 0.2944, "step": 337500 }, { "epoch": 1.69, "learning_rate": 2.1833333333333333e-05, "loss": 0.2971, "step": 338000 }, { "epoch": 1.69, "learning_rate": 2.179166666666667e-05, "loss": 0.3047, "step": 338500 }, { "epoch": 1.69, "learning_rate": 2.175e-05, "loss": 0.2957, "step": 339000 }, { "epoch": 1.7, "learning_rate": 2.1708333333333334e-05, "loss": 0.3013, "step": 339500 }, { "epoch": 1.7, "learning_rate": 2.1666666666666667e-05, "loss": 0.2947, "step": 340000 }, { "epoch": 1.7, "learning_rate": 2.1625e-05, "loss": 0.2901, "step": 340500 }, { "epoch": 1.71, "learning_rate": 2.1583333333333334e-05, "loss": 0.2956, "step": 341000 }, { "epoch": 1.71, "learning_rate": 2.1541666666666667e-05, "loss": 0.2906, "step": 341500 }, { "epoch": 1.71, "learning_rate": 2.15e-05, "loss": 0.2987, "step": 342000 }, { "epoch": 1.71, "learning_rate": 2.1458333333333334e-05, "loss": 0.2987, "step": 342500 }, { "epoch": 1.71, "learning_rate": 2.1416666666666668e-05, "loss": 0.2956, "step": 343000 }, { "epoch": 1.72, "learning_rate": 2.1375e-05, "loss": 0.2963, "step": 343500 }, { "epoch": 1.72, "learning_rate": 2.1333333333333335e-05, "loss": 0.2996, "step": 344000 }, { "epoch": 1.72, "learning_rate": 2.1291666666666668e-05, "loss": 0.2943, "step": 344500 }, { "epoch": 1.73, "learning_rate": 2.125e-05, "loss": 0.2971, "step": 345000 }, { "epoch": 1.73, "learning_rate": 2.1208333333333335e-05, "loss": 0.2969, "step": 345500 }, { "epoch": 1.73, "learning_rate": 2.116666666666667e-05, "loss": 0.2898, "step": 346000 }, { "epoch": 1.73, "learning_rate": 2.1125000000000002e-05, "loss": 0.298, "step": 346500 }, { "epoch": 1.73, "learning_rate": 2.1083333333333335e-05, "loss": 0.3018, "step": 347000 }, { "epoch": 1.74, "learning_rate": 2.104166666666667e-05, "loss": 0.2867, "step": 347500 }, { "epoch": 1.74, "learning_rate": 2.1e-05, "loss": 0.3052, "step": 348000 }, { "epoch": 1.74, "learning_rate": 2.0958333333333336e-05, "loss": 0.2977, "step": 348500 }, { "epoch": 1.75, "learning_rate": 2.091666666666667e-05, "loss": 0.3012, "step": 349000 }, { "epoch": 1.75, "learning_rate": 2.0875e-05, "loss": 0.2944, "step": 349500 }, { "epoch": 1.75, "learning_rate": 2.0833333333333336e-05, "loss": 0.2948, "step": 350000 }, { "epoch": 1.75, "learning_rate": 2.0791666666666666e-05, "loss": 0.3036, "step": 350500 }, { "epoch": 1.75, "learning_rate": 2.075e-05, "loss": 0.2896, "step": 351000 }, { "epoch": 1.76, "learning_rate": 2.0708333333333336e-05, "loss": 0.2878, "step": 351500 }, { "epoch": 1.76, "learning_rate": 2.0666666666666666e-05, "loss": 0.2926, "step": 352000 }, { "epoch": 1.76, "learning_rate": 2.0625e-05, "loss": 0.2989, "step": 352500 }, { "epoch": 1.77, "learning_rate": 2.0583333333333333e-05, "loss": 0.2927, "step": 353000 }, { "epoch": 1.77, "learning_rate": 2.0541666666666667e-05, "loss": 0.2873, "step": 353500 }, { "epoch": 1.77, "learning_rate": 2.05e-05, "loss": 0.2959, "step": 354000 }, { "epoch": 1.77, "learning_rate": 2.0458333333333334e-05, "loss": 0.2989, "step": 354500 }, { "epoch": 1.77, "learning_rate": 2.0416666666666667e-05, "loss": 0.3005, "step": 355000 }, { "epoch": 1.78, "learning_rate": 2.0375e-05, "loss": 0.2972, "step": 355500 }, { "epoch": 1.78, "learning_rate": 2.0333333333333334e-05, "loss": 0.2902, "step": 356000 }, { "epoch": 1.78, "learning_rate": 2.0291666666666667e-05, "loss": 0.297, "step": 356500 }, { "epoch": 1.79, "learning_rate": 2.025e-05, "loss": 0.2889, "step": 357000 }, { "epoch": 1.79, "learning_rate": 2.0208333333333334e-05, "loss": 0.2951, "step": 357500 }, { "epoch": 1.79, "learning_rate": 2.0166666666666668e-05, "loss": 0.289, "step": 358000 }, { "epoch": 1.79, "learning_rate": 2.0125e-05, "loss": 0.2866, "step": 358500 }, { "epoch": 1.79, "learning_rate": 2.0083333333333335e-05, "loss": 0.2908, "step": 359000 }, { "epoch": 1.8, "learning_rate": 2.0041666666666668e-05, "loss": 0.2974, "step": 359500 }, { "epoch": 1.8, "learning_rate": 2e-05, "loss": 0.2963, "step": 360000 }, { "epoch": 1.8, "learning_rate": 1.9958333333333335e-05, "loss": 0.2863, "step": 360500 }, { "epoch": 1.81, "learning_rate": 1.9916666666666665e-05, "loss": 0.2859, "step": 361000 }, { "epoch": 1.81, "learning_rate": 1.9875000000000002e-05, "loss": 0.2955, "step": 361500 }, { "epoch": 1.81, "learning_rate": 1.9833333333333335e-05, "loss": 0.2976, "step": 362000 }, { "epoch": 1.81, "learning_rate": 1.9791666666666665e-05, "loss": 0.2905, "step": 362500 }, { "epoch": 1.81, "learning_rate": 1.9750000000000002e-05, "loss": 0.2911, "step": 363000 }, { "epoch": 1.82, "learning_rate": 1.9708333333333336e-05, "loss": 0.2923, "step": 363500 }, { "epoch": 1.82, "learning_rate": 1.9666666666666666e-05, "loss": 0.2945, "step": 364000 }, { "epoch": 1.82, "learning_rate": 1.9625000000000003e-05, "loss": 0.2889, "step": 364500 }, { "epoch": 1.82, "learning_rate": 1.9583333333333333e-05, "loss": 0.2903, "step": 365000 }, { "epoch": 1.83, "learning_rate": 1.9541666666666666e-05, "loss": 0.2961, "step": 365500 }, { "epoch": 1.83, "learning_rate": 1.9500000000000003e-05, "loss": 0.2885, "step": 366000 }, { "epoch": 1.83, "learning_rate": 1.9458333333333333e-05, "loss": 0.294, "step": 366500 }, { "epoch": 1.83, "learning_rate": 1.9416666666666667e-05, "loss": 0.2937, "step": 367000 }, { "epoch": 1.84, "learning_rate": 1.9375e-05, "loss": 0.3009, "step": 367500 }, { "epoch": 1.84, "learning_rate": 1.9333333333333333e-05, "loss": 0.2889, "step": 368000 }, { "epoch": 1.84, "learning_rate": 1.9291666666666667e-05, "loss": 0.2997, "step": 368500 }, { "epoch": 1.84, "learning_rate": 1.925e-05, "loss": 0.2939, "step": 369000 }, { "epoch": 1.85, "learning_rate": 1.9208333333333334e-05, "loss": 0.2981, "step": 369500 }, { "epoch": 1.85, "learning_rate": 1.9166666666666667e-05, "loss": 0.2911, "step": 370000 }, { "epoch": 1.85, "learning_rate": 1.9125e-05, "loss": 0.2899, "step": 370500 }, { "epoch": 1.85, "learning_rate": 1.9083333333333334e-05, "loss": 0.2891, "step": 371000 }, { "epoch": 1.86, "learning_rate": 1.9041666666666668e-05, "loss": 0.2901, "step": 371500 }, { "epoch": 1.86, "learning_rate": 1.9e-05, "loss": 0.2928, "step": 372000 }, { "epoch": 1.86, "learning_rate": 1.8958333333333334e-05, "loss": 0.2973, "step": 372500 }, { "epoch": 1.86, "learning_rate": 1.8916666666666668e-05, "loss": 0.2905, "step": 373000 }, { "epoch": 1.87, "learning_rate": 1.8875e-05, "loss": 0.2934, "step": 373500 }, { "epoch": 1.87, "learning_rate": 1.8833333333333335e-05, "loss": 0.2888, "step": 374000 }, { "epoch": 1.87, "learning_rate": 1.8791666666666668e-05, "loss": 0.2904, "step": 374500 }, { "epoch": 1.88, "learning_rate": 1.8750000000000002e-05, "loss": 0.2869, "step": 375000 }, { "epoch": 1.88, "learning_rate": 1.8708333333333332e-05, "loss": 0.2908, "step": 375500 }, { "epoch": 1.88, "learning_rate": 1.866666666666667e-05, "loss": 0.2998, "step": 376000 }, { "epoch": 1.88, "learning_rate": 1.8625000000000002e-05, "loss": 0.2864, "step": 376500 }, { "epoch": 1.89, "learning_rate": 1.8583333333333332e-05, "loss": 0.2906, "step": 377000 }, { "epoch": 1.89, "learning_rate": 1.854166666666667e-05, "loss": 0.2893, "step": 377500 }, { "epoch": 1.89, "learning_rate": 1.85e-05, "loss": 0.2947, "step": 378000 }, { "epoch": 1.89, "learning_rate": 1.8458333333333333e-05, "loss": 0.2879, "step": 378500 }, { "epoch": 1.9, "learning_rate": 1.841666666666667e-05, "loss": 0.2905, "step": 379000 }, { "epoch": 1.9, "learning_rate": 1.8375e-05, "loss": 0.283, "step": 379500 }, { "epoch": 1.9, "learning_rate": 1.8333333333333333e-05, "loss": 0.2853, "step": 380000 }, { "epoch": 1.9, "learning_rate": 1.829166666666667e-05, "loss": 0.2836, "step": 380500 }, { "epoch": 1.91, "learning_rate": 1.825e-05, "loss": 0.295, "step": 381000 }, { "epoch": 1.91, "learning_rate": 1.8208333333333337e-05, "loss": 0.2884, "step": 381500 }, { "epoch": 1.91, "learning_rate": 1.8166666666666667e-05, "loss": 0.2862, "step": 382000 }, { "epoch": 1.91, "learning_rate": 1.8125e-05, "loss": 0.2915, "step": 382500 }, { "epoch": 1.92, "learning_rate": 1.8083333333333337e-05, "loss": 0.2907, "step": 383000 }, { "epoch": 1.92, "learning_rate": 1.8041666666666667e-05, "loss": 0.2862, "step": 383500 }, { "epoch": 1.92, "learning_rate": 1.8e-05, "loss": 0.2788, "step": 384000 }, { "epoch": 1.92, "learning_rate": 1.7958333333333334e-05, "loss": 0.2892, "step": 384500 }, { "epoch": 1.93, "learning_rate": 1.7916666666666667e-05, "loss": 0.2863, "step": 385000 }, { "epoch": 1.93, "learning_rate": 1.7875e-05, "loss": 0.294, "step": 385500 }, { "epoch": 1.93, "learning_rate": 1.7833333333333334e-05, "loss": 0.2835, "step": 386000 }, { "epoch": 1.93, "learning_rate": 1.7791666666666668e-05, "loss": 0.293, "step": 386500 }, { "epoch": 1.94, "learning_rate": 1.775e-05, "loss": 0.2776, "step": 387000 }, { "epoch": 1.94, "learning_rate": 1.7708333333333335e-05, "loss": 0.2848, "step": 387500 }, { "epoch": 1.94, "learning_rate": 1.7666666666666668e-05, "loss": 0.2893, "step": 388000 }, { "epoch": 1.94, "learning_rate": 1.7625e-05, "loss": 0.2871, "step": 388500 }, { "epoch": 1.94, "learning_rate": 1.7583333333333335e-05, "loss": 0.2859, "step": 389000 }, { "epoch": 1.95, "learning_rate": 1.754166666666667e-05, "loss": 0.284, "step": 389500 }, { "epoch": 1.95, "learning_rate": 1.75e-05, "loss": 0.287, "step": 390000 }, { "epoch": 1.95, "learning_rate": 1.7458333333333335e-05, "loss": 0.2881, "step": 390500 }, { "epoch": 1.96, "learning_rate": 1.741666666666667e-05, "loss": 0.2803, "step": 391000 }, { "epoch": 1.96, "learning_rate": 1.7375e-05, "loss": 0.2892, "step": 391500 }, { "epoch": 1.96, "learning_rate": 1.7333333333333336e-05, "loss": 0.2849, "step": 392000 }, { "epoch": 1.96, "learning_rate": 1.7291666666666666e-05, "loss": 0.2869, "step": 392500 }, { "epoch": 1.96, "learning_rate": 1.725e-05, "loss": 0.2899, "step": 393000 }, { "epoch": 1.97, "learning_rate": 1.7208333333333336e-05, "loss": 0.2771, "step": 393500 }, { "epoch": 1.97, "learning_rate": 1.7166666666666666e-05, "loss": 0.2858, "step": 394000 }, { "epoch": 1.97, "learning_rate": 1.7125000000000003e-05, "loss": 0.2819, "step": 394500 }, { "epoch": 1.98, "learning_rate": 1.7083333333333333e-05, "loss": 0.2835, "step": 395000 }, { "epoch": 1.98, "learning_rate": 1.7041666666666666e-05, "loss": 0.2869, "step": 395500 }, { "epoch": 1.98, "learning_rate": 1.7000000000000003e-05, "loss": 0.2786, "step": 396000 }, { "epoch": 1.98, "learning_rate": 1.6958333333333333e-05, "loss": 0.289, "step": 396500 }, { "epoch": 1.98, "learning_rate": 1.6916666666666667e-05, "loss": 0.2877, "step": 397000 }, { "epoch": 1.99, "learning_rate": 1.6875000000000004e-05, "loss": 0.2886, "step": 397500 }, { "epoch": 1.99, "learning_rate": 1.6833333333333334e-05, "loss": 0.2868, "step": 398000 }, { "epoch": 1.99, "learning_rate": 1.6791666666666667e-05, "loss": 0.2831, "step": 398500 }, { "epoch": 2.0, "learning_rate": 1.675e-05, "loss": 0.2925, "step": 399000 }, { "epoch": 2.0, "learning_rate": 1.6708333333333334e-05, "loss": 0.2856, "step": 399500 }, { "epoch": 2.0, "learning_rate": 1.6666666666666667e-05, "loss": 0.2886, "step": 400000 }, { "epoch": 2.0, "learning_rate": 1.6625e-05, "loss": 0.2753, "step": 400500 }, { "epoch": 2.0, "learning_rate": 1.6583333333333334e-05, "loss": 0.2871, "step": 401000 }, { "epoch": 2.01, "learning_rate": 1.6541666666666668e-05, "loss": 0.2797, "step": 401500 }, { "epoch": 2.01, "learning_rate": 1.65e-05, "loss": 0.2834, "step": 402000 }, { "epoch": 2.01, "learning_rate": 1.6458333333333335e-05, "loss": 0.2827, "step": 402500 }, { "epoch": 2.02, "learning_rate": 1.6416666666666665e-05, "loss": 0.2872, "step": 403000 }, { "epoch": 2.02, "learning_rate": 1.6375e-05, "loss": 0.2821, "step": 403500 }, { "epoch": 2.02, "learning_rate": 1.6333333333333335e-05, "loss": 0.2856, "step": 404000 }, { "epoch": 2.02, "learning_rate": 1.6291666666666665e-05, "loss": 0.2835, "step": 404500 }, { "epoch": 2.02, "learning_rate": 1.6250000000000002e-05, "loss": 0.2793, "step": 405000 }, { "epoch": 2.03, "learning_rate": 1.6208333333333332e-05, "loss": 0.2866, "step": 405500 }, { "epoch": 2.03, "learning_rate": 1.6166666666666665e-05, "loss": 0.2831, "step": 406000 }, { "epoch": 2.03, "learning_rate": 1.6125000000000002e-05, "loss": 0.2818, "step": 406500 }, { "epoch": 2.04, "learning_rate": 1.6083333333333332e-05, "loss": 0.2815, "step": 407000 }, { "epoch": 2.04, "learning_rate": 1.604166666666667e-05, "loss": 0.2781, "step": 407500 }, { "epoch": 2.04, "learning_rate": 1.6000000000000003e-05, "loss": 0.2896, "step": 408000 }, { "epoch": 2.04, "learning_rate": 1.5958333333333333e-05, "loss": 0.2779, "step": 408500 }, { "epoch": 2.04, "learning_rate": 1.591666666666667e-05, "loss": 0.2782, "step": 409000 }, { "epoch": 2.05, "learning_rate": 1.5875e-05, "loss": 0.2793, "step": 409500 }, { "epoch": 2.05, "learning_rate": 1.5833333333333333e-05, "loss": 0.2795, "step": 410000 }, { "epoch": 2.05, "learning_rate": 1.579166666666667e-05, "loss": 0.2733, "step": 410500 }, { "epoch": 2.06, "learning_rate": 1.575e-05, "loss": 0.2787, "step": 411000 }, { "epoch": 2.06, "learning_rate": 1.5708333333333333e-05, "loss": 0.2815, "step": 411500 }, { "epoch": 2.06, "learning_rate": 1.5666666666666667e-05, "loss": 0.2797, "step": 412000 }, { "epoch": 2.06, "learning_rate": 1.5625e-05, "loss": 0.2839, "step": 412500 }, { "epoch": 2.06, "learning_rate": 1.5583333333333334e-05, "loss": 0.2775, "step": 413000 }, { "epoch": 2.07, "learning_rate": 1.5541666666666667e-05, "loss": 0.2767, "step": 413500 }, { "epoch": 2.07, "learning_rate": 1.55e-05, "loss": 0.2778, "step": 414000 }, { "epoch": 2.07, "learning_rate": 1.5458333333333334e-05, "loss": 0.2829, "step": 414500 }, { "epoch": 2.08, "learning_rate": 1.5416666666666668e-05, "loss": 0.2877, "step": 415000 }, { "epoch": 2.08, "learning_rate": 1.5375e-05, "loss": 0.2751, "step": 415500 }, { "epoch": 2.08, "learning_rate": 1.5333333333333334e-05, "loss": 0.277, "step": 416000 }, { "epoch": 2.08, "learning_rate": 1.5291666666666668e-05, "loss": 0.2824, "step": 416500 }, { "epoch": 2.08, "learning_rate": 1.525e-05, "loss": 0.2758, "step": 417000 }, { "epoch": 2.09, "learning_rate": 1.5208333333333333e-05, "loss": 0.2772, "step": 417500 }, { "epoch": 2.09, "learning_rate": 1.5166666666666668e-05, "loss": 0.2823, "step": 418000 }, { "epoch": 2.09, "learning_rate": 1.5125e-05, "loss": 0.2845, "step": 418500 }, { "epoch": 2.1, "learning_rate": 1.5083333333333335e-05, "loss": 0.2715, "step": 419000 }, { "epoch": 2.1, "learning_rate": 1.5041666666666669e-05, "loss": 0.279, "step": 419500 }, { "epoch": 2.1, "learning_rate": 1.5e-05, "loss": 0.2763, "step": 420000 }, { "epoch": 2.1, "learning_rate": 1.4958333333333336e-05, "loss": 0.2769, "step": 420500 }, { "epoch": 2.1, "learning_rate": 1.4916666666666667e-05, "loss": 0.2799, "step": 421000 }, { "epoch": 2.11, "learning_rate": 1.4875e-05, "loss": 0.2832, "step": 421500 }, { "epoch": 2.11, "learning_rate": 1.4833333333333336e-05, "loss": 0.2775, "step": 422000 }, { "epoch": 2.11, "learning_rate": 1.4791666666666668e-05, "loss": 0.276, "step": 422500 }, { "epoch": 2.12, "learning_rate": 1.475e-05, "loss": 0.2777, "step": 423000 }, { "epoch": 2.12, "learning_rate": 1.4708333333333335e-05, "loss": 0.2755, "step": 423500 }, { "epoch": 2.12, "learning_rate": 1.4666666666666668e-05, "loss": 0.2797, "step": 424000 }, { "epoch": 2.12, "learning_rate": 1.4625e-05, "loss": 0.2766, "step": 424500 }, { "epoch": 2.12, "learning_rate": 1.4583333333333335e-05, "loss": 0.2807, "step": 425000 }, { "epoch": 2.13, "learning_rate": 1.4541666666666667e-05, "loss": 0.2759, "step": 425500 }, { "epoch": 2.13, "learning_rate": 1.45e-05, "loss": 0.2736, "step": 426000 }, { "epoch": 2.13, "learning_rate": 1.4458333333333335e-05, "loss": 0.2746, "step": 426500 }, { "epoch": 2.13, "learning_rate": 1.4416666666666667e-05, "loss": 0.2805, "step": 427000 }, { "epoch": 2.14, "learning_rate": 1.4374999999999999e-05, "loss": 0.2804, "step": 427500 }, { "epoch": 2.14, "learning_rate": 1.4333333333333334e-05, "loss": 0.2722, "step": 428000 }, { "epoch": 2.14, "learning_rate": 1.4291666666666667e-05, "loss": 0.2783, "step": 428500 }, { "epoch": 2.15, "learning_rate": 1.4249999999999999e-05, "loss": 0.2808, "step": 429000 }, { "epoch": 2.15, "learning_rate": 1.4208333333333334e-05, "loss": 0.2762, "step": 429500 }, { "epoch": 2.15, "learning_rate": 1.4166666666666668e-05, "loss": 0.2853, "step": 430000 }, { "epoch": 2.15, "learning_rate": 1.4125e-05, "loss": 0.2826, "step": 430500 }, { "epoch": 2.15, "learning_rate": 1.4083333333333335e-05, "loss": 0.2775, "step": 431000 }, { "epoch": 2.16, "learning_rate": 1.4041666666666666e-05, "loss": 0.2789, "step": 431500 }, { "epoch": 2.16, "learning_rate": 1.4000000000000001e-05, "loss": 0.2719, "step": 432000 }, { "epoch": 2.16, "learning_rate": 1.3958333333333335e-05, "loss": 0.2722, "step": 432500 }, { "epoch": 2.17, "learning_rate": 1.3916666666666667e-05, "loss": 0.2816, "step": 433000 }, { "epoch": 2.17, "learning_rate": 1.3875000000000002e-05, "loss": 0.2805, "step": 433500 }, { "epoch": 2.17, "learning_rate": 1.3833333333333334e-05, "loss": 0.2774, "step": 434000 }, { "epoch": 2.17, "learning_rate": 1.3791666666666667e-05, "loss": 0.2752, "step": 434500 }, { "epoch": 2.17, "learning_rate": 1.3750000000000002e-05, "loss": 0.2698, "step": 435000 }, { "epoch": 2.18, "learning_rate": 1.3708333333333334e-05, "loss": 0.2777, "step": 435500 }, { "epoch": 2.18, "learning_rate": 1.3666666666666666e-05, "loss": 0.2813, "step": 436000 }, { "epoch": 2.18, "learning_rate": 1.3625e-05, "loss": 0.2766, "step": 436500 }, { "epoch": 2.19, "learning_rate": 1.3583333333333334e-05, "loss": 0.2785, "step": 437000 }, { "epoch": 2.19, "learning_rate": 1.3541666666666666e-05, "loss": 0.2787, "step": 437500 }, { "epoch": 2.19, "learning_rate": 1.3500000000000001e-05, "loss": 0.2759, "step": 438000 }, { "epoch": 2.19, "learning_rate": 1.3458333333333335e-05, "loss": 0.2782, "step": 438500 }, { "epoch": 2.19, "learning_rate": 1.3416666666666666e-05, "loss": 0.2756, "step": 439000 }, { "epoch": 2.2, "learning_rate": 1.3375000000000002e-05, "loss": 0.2773, "step": 439500 }, { "epoch": 2.2, "learning_rate": 1.3333333333333333e-05, "loss": 0.2723, "step": 440000 }, { "epoch": 2.2, "learning_rate": 1.3291666666666667e-05, "loss": 0.2798, "step": 440500 }, { "epoch": 2.21, "learning_rate": 1.3250000000000002e-05, "loss": 0.273, "step": 441000 }, { "epoch": 2.21, "learning_rate": 1.3208333333333334e-05, "loss": 0.2738, "step": 441500 }, { "epoch": 2.21, "learning_rate": 1.3166666666666665e-05, "loss": 0.2785, "step": 442000 }, { "epoch": 2.21, "learning_rate": 1.3125e-05, "loss": 0.2771, "step": 442500 }, { "epoch": 2.21, "learning_rate": 1.3083333333333334e-05, "loss": 0.2797, "step": 443000 }, { "epoch": 2.22, "learning_rate": 1.3041666666666666e-05, "loss": 0.274, "step": 443500 }, { "epoch": 2.22, "learning_rate": 1.3000000000000001e-05, "loss": 0.2729, "step": 444000 }, { "epoch": 2.22, "learning_rate": 1.2958333333333333e-05, "loss": 0.2697, "step": 444500 }, { "epoch": 2.23, "learning_rate": 1.2916666666666668e-05, "loss": 0.2748, "step": 445000 }, { "epoch": 2.23, "learning_rate": 1.2875000000000001e-05, "loss": 0.2692, "step": 445500 }, { "epoch": 2.23, "learning_rate": 1.2833333333333333e-05, "loss": 0.2786, "step": 446000 }, { "epoch": 2.23, "learning_rate": 1.2791666666666668e-05, "loss": 0.275, "step": 446500 }, { "epoch": 2.23, "learning_rate": 1.2750000000000002e-05, "loss": 0.2829, "step": 447000 }, { "epoch": 2.24, "learning_rate": 1.2708333333333333e-05, "loss": 0.2743, "step": 447500 }, { "epoch": 2.24, "learning_rate": 1.2666666666666668e-05, "loss": 0.2772, "step": 448000 }, { "epoch": 2.24, "learning_rate": 1.2625e-05, "loss": 0.2791, "step": 448500 }, { "epoch": 2.25, "learning_rate": 1.2583333333333334e-05, "loss": 0.28, "step": 449000 }, { "epoch": 2.25, "learning_rate": 1.2541666666666669e-05, "loss": 0.2746, "step": 449500 }, { "epoch": 2.25, "learning_rate": 1.25e-05, "loss": 0.2752, "step": 450000 }, { "epoch": 2.25, "learning_rate": 1.2458333333333334e-05, "loss": 0.2714, "step": 450500 }, { "epoch": 2.25, "learning_rate": 1.2416666666666667e-05, "loss": 0.2765, "step": 451000 }, { "epoch": 2.26, "learning_rate": 1.2375000000000001e-05, "loss": 0.269, "step": 451500 }, { "epoch": 2.26, "learning_rate": 1.2333333333333334e-05, "loss": 0.2777, "step": 452000 }, { "epoch": 2.26, "learning_rate": 1.2291666666666666e-05, "loss": 0.2794, "step": 452500 }, { "epoch": 2.27, "learning_rate": 1.225e-05, "loss": 0.274, "step": 453000 }, { "epoch": 2.27, "learning_rate": 1.2208333333333335e-05, "loss": 0.2821, "step": 453500 }, { "epoch": 2.27, "learning_rate": 1.2166666666666668e-05, "loss": 0.2752, "step": 454000 }, { "epoch": 2.27, "learning_rate": 1.2125e-05, "loss": 0.2704, "step": 454500 }, { "epoch": 2.27, "learning_rate": 1.2083333333333333e-05, "loss": 0.2726, "step": 455000 }, { "epoch": 2.28, "learning_rate": 1.2041666666666669e-05, "loss": 0.2786, "step": 455500 }, { "epoch": 2.28, "learning_rate": 1.2e-05, "loss": 0.276, "step": 456000 }, { "epoch": 2.28, "learning_rate": 1.1958333333333334e-05, "loss": 0.2694, "step": 456500 }, { "epoch": 2.29, "learning_rate": 1.1916666666666667e-05, "loss": 0.2793, "step": 457000 }, { "epoch": 2.29, "learning_rate": 1.1875e-05, "loss": 0.27, "step": 457500 }, { "epoch": 2.29, "learning_rate": 1.1833333333333334e-05, "loss": 0.2804, "step": 458000 }, { "epoch": 2.29, "learning_rate": 1.1791666666666668e-05, "loss": 0.2672, "step": 458500 }, { "epoch": 2.29, "learning_rate": 1.175e-05, "loss": 0.2696, "step": 459000 }, { "epoch": 2.3, "learning_rate": 1.1708333333333334e-05, "loss": 0.2745, "step": 459500 }, { "epoch": 2.3, "learning_rate": 1.1666666666666668e-05, "loss": 0.268, "step": 460000 }, { "epoch": 2.3, "learning_rate": 1.1625000000000001e-05, "loss": 0.2773, "step": 460500 }, { "epoch": 2.31, "learning_rate": 1.1583333333333333e-05, "loss": 0.2752, "step": 461000 }, { "epoch": 2.31, "learning_rate": 1.1541666666666667e-05, "loss": 0.2653, "step": 461500 }, { "epoch": 2.31, "learning_rate": 1.1500000000000002e-05, "loss": 0.2763, "step": 462000 }, { "epoch": 2.31, "learning_rate": 1.1458333333333333e-05, "loss": 0.2719, "step": 462500 }, { "epoch": 2.31, "learning_rate": 1.1416666666666667e-05, "loss": 0.2752, "step": 463000 }, { "epoch": 2.32, "learning_rate": 1.1375e-05, "loss": 0.2661, "step": 463500 }, { "epoch": 2.32, "learning_rate": 1.1333333333333334e-05, "loss": 0.275, "step": 464000 }, { "epoch": 2.32, "learning_rate": 1.1291666666666667e-05, "loss": 0.2742, "step": 464500 }, { "epoch": 2.33, "learning_rate": 1.125e-05, "loss": 0.2759, "step": 465000 }, { "epoch": 2.33, "learning_rate": 1.1208333333333332e-05, "loss": 0.2726, "step": 465500 }, { "epoch": 2.33, "learning_rate": 1.1166666666666668e-05, "loss": 0.2723, "step": 466000 }, { "epoch": 2.33, "learning_rate": 1.1125000000000001e-05, "loss": 0.2763, "step": 466500 }, { "epoch": 2.33, "learning_rate": 1.1083333333333335e-05, "loss": 0.2788, "step": 467000 }, { "epoch": 2.34, "learning_rate": 1.1041666666666666e-05, "loss": 0.2781, "step": 467500 }, { "epoch": 2.34, "learning_rate": 1.1000000000000001e-05, "loss": 0.2716, "step": 468000 }, { "epoch": 2.34, "learning_rate": 1.0958333333333335e-05, "loss": 0.2671, "step": 468500 }, { "epoch": 2.34, "learning_rate": 1.0916666666666667e-05, "loss": 0.2652, "step": 469000 }, { "epoch": 2.35, "learning_rate": 1.0875e-05, "loss": 0.2731, "step": 469500 }, { "epoch": 2.35, "learning_rate": 1.0833333333333334e-05, "loss": 0.2779, "step": 470000 }, { "epoch": 2.35, "learning_rate": 1.0791666666666667e-05, "loss": 0.2784, "step": 470500 }, { "epoch": 2.35, "learning_rate": 1.075e-05, "loss": 0.2675, "step": 471000 }, { "epoch": 2.36, "learning_rate": 1.0708333333333334e-05, "loss": 0.2714, "step": 471500 }, { "epoch": 2.36, "learning_rate": 1.0666666666666667e-05, "loss": 0.2738, "step": 472000 }, { "epoch": 2.36, "learning_rate": 1.0625e-05, "loss": 0.2711, "step": 472500 }, { "epoch": 2.37, "learning_rate": 1.0583333333333334e-05, "loss": 0.2806, "step": 473000 }, { "epoch": 2.37, "learning_rate": 1.0541666666666668e-05, "loss": 0.2732, "step": 473500 }, { "epoch": 2.37, "learning_rate": 1.05e-05, "loss": 0.2746, "step": 474000 }, { "epoch": 2.37, "learning_rate": 1.0458333333333335e-05, "loss": 0.2793, "step": 474500 }, { "epoch": 2.38, "learning_rate": 1.0416666666666668e-05, "loss": 0.2744, "step": 475000 }, { "epoch": 2.38, "learning_rate": 1.0375e-05, "loss": 0.2614, "step": 475500 }, { "epoch": 2.38, "learning_rate": 1.0333333333333333e-05, "loss": 0.262, "step": 476000 }, { "epoch": 2.38, "learning_rate": 1.0291666666666667e-05, "loss": 0.2745, "step": 476500 }, { "epoch": 2.38, "learning_rate": 1.025e-05, "loss": 0.267, "step": 477000 }, { "epoch": 2.39, "learning_rate": 1.0208333333333334e-05, "loss": 0.2643, "step": 477500 }, { "epoch": 2.39, "learning_rate": 1.0166666666666667e-05, "loss": 0.279, "step": 478000 }, { "epoch": 2.39, "learning_rate": 1.0125e-05, "loss": 0.2697, "step": 478500 }, { "epoch": 2.4, "learning_rate": 1.0083333333333334e-05, "loss": 0.2718, "step": 479000 }, { "epoch": 2.4, "learning_rate": 1.0041666666666667e-05, "loss": 0.2716, "step": 479500 }, { "epoch": 2.4, "learning_rate": 1e-05, "loss": 0.2735, "step": 480000 }, { "epoch": 2.4, "learning_rate": 9.958333333333333e-06, "loss": 0.2709, "step": 480500 }, { "epoch": 2.41, "learning_rate": 9.916666666666668e-06, "loss": 0.2702, "step": 481000 }, { "epoch": 2.41, "learning_rate": 9.875000000000001e-06, "loss": 0.2764, "step": 481500 }, { "epoch": 2.41, "learning_rate": 9.833333333333333e-06, "loss": 0.2709, "step": 482000 }, { "epoch": 2.41, "learning_rate": 9.791666666666666e-06, "loss": 0.2744, "step": 482500 }, { "epoch": 2.42, "learning_rate": 9.750000000000002e-06, "loss": 0.2689, "step": 483000 }, { "epoch": 2.42, "learning_rate": 9.708333333333333e-06, "loss": 0.2715, "step": 483500 }, { "epoch": 2.42, "learning_rate": 9.666666666666667e-06, "loss": 0.268, "step": 484000 }, { "epoch": 2.42, "learning_rate": 9.625e-06, "loss": 0.2714, "step": 484500 }, { "epoch": 2.42, "learning_rate": 9.583333333333334e-06, "loss": 0.2695, "step": 485000 }, { "epoch": 2.43, "learning_rate": 9.541666666666667e-06, "loss": 0.2725, "step": 485500 }, { "epoch": 2.43, "learning_rate": 9.5e-06, "loss": 0.2704, "step": 486000 }, { "epoch": 2.43, "learning_rate": 9.458333333333334e-06, "loss": 0.2756, "step": 486500 }, { "epoch": 2.44, "learning_rate": 9.416666666666667e-06, "loss": 0.2725, "step": 487000 }, { "epoch": 2.44, "learning_rate": 9.375000000000001e-06, "loss": 0.2689, "step": 487500 }, { "epoch": 2.44, "learning_rate": 9.333333333333334e-06, "loss": 0.2626, "step": 488000 }, { "epoch": 2.44, "learning_rate": 9.291666666666666e-06, "loss": 0.2729, "step": 488500 }, { "epoch": 2.44, "learning_rate": 9.25e-06, "loss": 0.2692, "step": 489000 }, { "epoch": 2.45, "learning_rate": 9.208333333333335e-06, "loss": 0.2799, "step": 489500 }, { "epoch": 2.45, "learning_rate": 9.166666666666666e-06, "loss": 0.2656, "step": 490000 }, { "epoch": 2.45, "learning_rate": 9.125e-06, "loss": 0.2651, "step": 490500 }, { "epoch": 2.46, "learning_rate": 9.083333333333333e-06, "loss": 0.2689, "step": 491000 }, { "epoch": 2.46, "learning_rate": 9.041666666666668e-06, "loss": 0.273, "step": 491500 }, { "epoch": 2.46, "learning_rate": 9e-06, "loss": 0.2655, "step": 492000 }, { "epoch": 2.46, "learning_rate": 8.958333333333334e-06, "loss": 0.2666, "step": 492500 }, { "epoch": 2.46, "learning_rate": 8.916666666666667e-06, "loss": 0.2646, "step": 493000 }, { "epoch": 2.47, "learning_rate": 8.875e-06, "loss": 0.2677, "step": 493500 }, { "epoch": 2.47, "learning_rate": 8.833333333333334e-06, "loss": 0.2713, "step": 494000 }, { "epoch": 2.47, "learning_rate": 8.791666666666667e-06, "loss": 0.2658, "step": 494500 }, { "epoch": 2.48, "learning_rate": 8.75e-06, "loss": 0.2719, "step": 495000 }, { "epoch": 2.48, "learning_rate": 8.708333333333334e-06, "loss": 0.272, "step": 495500 }, { "epoch": 2.48, "learning_rate": 8.666666666666668e-06, "loss": 0.2746, "step": 496000 }, { "epoch": 2.48, "learning_rate": 8.625e-06, "loss": 0.2724, "step": 496500 }, { "epoch": 2.48, "learning_rate": 8.583333333333333e-06, "loss": 0.2695, "step": 497000 }, { "epoch": 2.49, "learning_rate": 8.541666666666666e-06, "loss": 0.2672, "step": 497500 }, { "epoch": 2.49, "learning_rate": 8.500000000000002e-06, "loss": 0.2682, "step": 498000 }, { "epoch": 2.49, "learning_rate": 8.458333333333333e-06, "loss": 0.2648, "step": 498500 }, { "epoch": 2.5, "learning_rate": 8.416666666666667e-06, "loss": 0.2635, "step": 499000 }, { "epoch": 2.5, "learning_rate": 8.375e-06, "loss": 0.277, "step": 499500 }, { "epoch": 2.5, "learning_rate": 8.333333333333334e-06, "loss": 0.2687, "step": 500000 }, { "epoch": 2.5, "learning_rate": 8.291666666666667e-06, "loss": 0.2671, "step": 500500 }, { "epoch": 2.5, "learning_rate": 8.25e-06, "loss": 0.2674, "step": 501000 }, { "epoch": 2.51, "learning_rate": 8.208333333333332e-06, "loss": 0.2709, "step": 501500 }, { "epoch": 2.51, "learning_rate": 8.166666666666668e-06, "loss": 0.2624, "step": 502000 }, { "epoch": 2.51, "learning_rate": 8.125000000000001e-06, "loss": 0.2721, "step": 502500 }, { "epoch": 2.52, "learning_rate": 8.083333333333333e-06, "loss": 0.2701, "step": 503000 }, { "epoch": 2.52, "learning_rate": 8.041666666666666e-06, "loss": 0.261, "step": 503500 }, { "epoch": 2.52, "learning_rate": 8.000000000000001e-06, "loss": 0.2664, "step": 504000 }, { "epoch": 2.52, "learning_rate": 7.958333333333335e-06, "loss": 0.2661, "step": 504500 }, { "epoch": 2.52, "learning_rate": 7.916666666666667e-06, "loss": 0.269, "step": 505000 }, { "epoch": 2.53, "learning_rate": 7.875e-06, "loss": 0.2716, "step": 505500 }, { "epoch": 2.53, "learning_rate": 7.833333333333333e-06, "loss": 0.2723, "step": 506000 }, { "epoch": 2.53, "learning_rate": 7.791666666666667e-06, "loss": 0.2681, "step": 506500 }, { "epoch": 2.54, "learning_rate": 7.75e-06, "loss": 0.2723, "step": 507000 }, { "epoch": 2.54, "learning_rate": 7.708333333333334e-06, "loss": 0.2675, "step": 507500 }, { "epoch": 2.54, "learning_rate": 7.666666666666667e-06, "loss": 0.2759, "step": 508000 }, { "epoch": 2.54, "learning_rate": 7.625e-06, "loss": 0.2672, "step": 508500 }, { "epoch": 2.54, "learning_rate": 7.583333333333334e-06, "loss": 0.2655, "step": 509000 }, { "epoch": 2.55, "learning_rate": 7.541666666666668e-06, "loss": 0.2691, "step": 509500 }, { "epoch": 2.55, "learning_rate": 7.5e-06, "loss": 0.2645, "step": 510000 }, { "epoch": 2.55, "learning_rate": 7.458333333333334e-06, "loss": 0.2582, "step": 510500 }, { "epoch": 2.56, "learning_rate": 7.416666666666668e-06, "loss": 0.2745, "step": 511000 }, { "epoch": 2.56, "learning_rate": 7.375e-06, "loss": 0.2696, "step": 511500 }, { "epoch": 2.56, "learning_rate": 7.333333333333334e-06, "loss": 0.2638, "step": 512000 }, { "epoch": 2.56, "learning_rate": 7.2916666666666674e-06, "loss": 0.2728, "step": 512500 }, { "epoch": 2.56, "learning_rate": 7.25e-06, "loss": 0.2636, "step": 513000 }, { "epoch": 2.57, "learning_rate": 7.2083333333333335e-06, "loss": 0.273, "step": 513500 }, { "epoch": 2.57, "learning_rate": 7.166666666666667e-06, "loss": 0.2686, "step": 514000 }, { "epoch": 2.57, "learning_rate": 7.1249999999999995e-06, "loss": 0.2754, "step": 514500 }, { "epoch": 2.58, "learning_rate": 7.083333333333334e-06, "loss": 0.2609, "step": 515000 }, { "epoch": 2.58, "learning_rate": 7.041666666666667e-06, "loss": 0.2629, "step": 515500 }, { "epoch": 2.58, "learning_rate": 7.000000000000001e-06, "loss": 0.2753, "step": 516000 }, { "epoch": 2.58, "learning_rate": 6.958333333333333e-06, "loss": 0.2713, "step": 516500 }, { "epoch": 2.58, "learning_rate": 6.916666666666667e-06, "loss": 0.2741, "step": 517000 }, { "epoch": 2.59, "learning_rate": 6.875000000000001e-06, "loss": 0.2678, "step": 517500 }, { "epoch": 2.59, "learning_rate": 6.833333333333333e-06, "loss": 0.2668, "step": 518000 }, { "epoch": 2.59, "learning_rate": 6.791666666666667e-06, "loss": 0.2711, "step": 518500 }, { "epoch": 2.59, "learning_rate": 6.750000000000001e-06, "loss": 0.2678, "step": 519000 }, { "epoch": 2.6, "learning_rate": 6.708333333333333e-06, "loss": 0.2628, "step": 519500 }, { "epoch": 2.6, "learning_rate": 6.666666666666667e-06, "loss": 0.2656, "step": 520000 }, { "epoch": 2.6, "learning_rate": 6.625000000000001e-06, "loss": 0.2634, "step": 520500 }, { "epoch": 2.6, "learning_rate": 6.583333333333333e-06, "loss": 0.2717, "step": 521000 }, { "epoch": 2.61, "learning_rate": 6.541666666666667e-06, "loss": 0.2684, "step": 521500 }, { "epoch": 2.61, "learning_rate": 6.5000000000000004e-06, "loss": 0.2752, "step": 522000 }, { "epoch": 2.61, "learning_rate": 6.458333333333334e-06, "loss": 0.2725, "step": 522500 }, { "epoch": 2.62, "learning_rate": 6.4166666666666665e-06, "loss": 0.2695, "step": 523000 }, { "epoch": 2.62, "learning_rate": 6.375000000000001e-06, "loss": 0.2724, "step": 523500 }, { "epoch": 2.62, "learning_rate": 6.333333333333334e-06, "loss": 0.2691, "step": 524000 }, { "epoch": 2.62, "learning_rate": 6.291666666666667e-06, "loss": 0.2666, "step": 524500 }, { "epoch": 2.62, "learning_rate": 6.25e-06, "loss": 0.2644, "step": 525000 }, { "epoch": 2.63, "learning_rate": 6.208333333333334e-06, "loss": 0.2624, "step": 525500 }, { "epoch": 2.63, "learning_rate": 6.166666666666667e-06, "loss": 0.263, "step": 526000 }, { "epoch": 2.63, "learning_rate": 6.125e-06, "loss": 0.2694, "step": 526500 }, { "epoch": 2.63, "learning_rate": 6.083333333333334e-06, "loss": 0.2642, "step": 527000 }, { "epoch": 2.64, "learning_rate": 6.041666666666667e-06, "loss": 0.2629, "step": 527500 }, { "epoch": 2.64, "learning_rate": 6e-06, "loss": 0.2663, "step": 528000 }, { "epoch": 2.64, "learning_rate": 5.958333333333334e-06, "loss": 0.2724, "step": 528500 }, { "epoch": 2.65, "learning_rate": 5.916666666666667e-06, "loss": 0.2716, "step": 529000 }, { "epoch": 2.65, "learning_rate": 5.875e-06, "loss": 0.2676, "step": 529500 }, { "epoch": 2.65, "learning_rate": 5.833333333333334e-06, "loss": 0.2693, "step": 530000 }, { "epoch": 2.65, "learning_rate": 5.7916666666666666e-06, "loss": 0.2743, "step": 530500 }, { "epoch": 2.66, "learning_rate": 5.750000000000001e-06, "loss": 0.2627, "step": 531000 }, { "epoch": 2.66, "learning_rate": 5.7083333333333335e-06, "loss": 0.2628, "step": 531500 }, { "epoch": 2.66, "learning_rate": 5.666666666666667e-06, "loss": 0.2604, "step": 532000 }, { "epoch": 2.66, "learning_rate": 5.625e-06, "loss": 0.2651, "step": 532500 }, { "epoch": 2.67, "learning_rate": 5.583333333333334e-06, "loss": 0.2699, "step": 533000 }, { "epoch": 2.67, "learning_rate": 5.541666666666667e-06, "loss": 0.2579, "step": 533500 }, { "epoch": 2.67, "learning_rate": 5.500000000000001e-06, "loss": 0.2652, "step": 534000 }, { "epoch": 2.67, "learning_rate": 5.458333333333333e-06, "loss": 0.2666, "step": 534500 }, { "epoch": 2.67, "learning_rate": 5.416666666666667e-06, "loss": 0.2622, "step": 535000 }, { "epoch": 2.68, "learning_rate": 5.375e-06, "loss": 0.2573, "step": 535500 }, { "epoch": 2.68, "learning_rate": 5.333333333333334e-06, "loss": 0.2685, "step": 536000 }, { "epoch": 2.68, "learning_rate": 5.291666666666667e-06, "loss": 0.2797, "step": 536500 }, { "epoch": 2.69, "learning_rate": 5.25e-06, "loss": 0.261, "step": 537000 }, { "epoch": 2.69, "learning_rate": 5.208333333333334e-06, "loss": 0.2653, "step": 537500 }, { "epoch": 2.69, "learning_rate": 5.166666666666667e-06, "loss": 0.2621, "step": 538000 }, { "epoch": 2.69, "learning_rate": 5.125e-06, "loss": 0.2696, "step": 538500 }, { "epoch": 2.69, "learning_rate": 5.0833333333333335e-06, "loss": 0.2679, "step": 539000 }, { "epoch": 2.7, "learning_rate": 5.041666666666667e-06, "loss": 0.2657, "step": 539500 }, { "epoch": 2.7, "learning_rate": 5e-06, "loss": 0.2632, "step": 540000 }, { "epoch": 2.7, "learning_rate": 4.958333333333334e-06, "loss": 0.2637, "step": 540500 }, { "epoch": 2.71, "learning_rate": 4.9166666666666665e-06, "loss": 0.2707, "step": 541000 }, { "epoch": 2.71, "learning_rate": 4.875000000000001e-06, "loss": 0.2672, "step": 541500 }, { "epoch": 2.71, "learning_rate": 4.833333333333333e-06, "loss": 0.2628, "step": 542000 }, { "epoch": 2.71, "learning_rate": 4.791666666666667e-06, "loss": 0.2665, "step": 542500 }, { "epoch": 2.71, "learning_rate": 4.75e-06, "loss": 0.2682, "step": 543000 }, { "epoch": 2.72, "learning_rate": 4.708333333333334e-06, "loss": 0.2676, "step": 543500 }, { "epoch": 2.72, "learning_rate": 4.666666666666667e-06, "loss": 0.2623, "step": 544000 }, { "epoch": 2.72, "learning_rate": 4.625e-06, "loss": 0.2726, "step": 544500 }, { "epoch": 2.73, "learning_rate": 4.583333333333333e-06, "loss": 0.2602, "step": 545000 }, { "epoch": 2.73, "learning_rate": 4.541666666666667e-06, "loss": 0.2638, "step": 545500 }, { "epoch": 2.73, "learning_rate": 4.5e-06, "loss": 0.2674, "step": 546000 }, { "epoch": 2.73, "learning_rate": 4.4583333333333336e-06, "loss": 0.2644, "step": 546500 }, { "epoch": 2.73, "learning_rate": 4.416666666666667e-06, "loss": 0.2633, "step": 547000 }, { "epoch": 2.74, "learning_rate": 4.375e-06, "loss": 0.2672, "step": 547500 }, { "epoch": 2.74, "learning_rate": 4.333333333333334e-06, "loss": 0.2687, "step": 548000 }, { "epoch": 2.74, "learning_rate": 4.2916666666666665e-06, "loss": 0.2709, "step": 548500 }, { "epoch": 2.75, "learning_rate": 4.250000000000001e-06, "loss": 0.2691, "step": 549000 }, { "epoch": 2.75, "learning_rate": 4.208333333333333e-06, "loss": 0.2606, "step": 549500 }, { "epoch": 2.75, "learning_rate": 4.166666666666667e-06, "loss": 0.2646, "step": 550000 }, { "epoch": 2.75, "learning_rate": 4.125e-06, "loss": 0.2727, "step": 550500 }, { "epoch": 2.75, "learning_rate": 4.083333333333334e-06, "loss": 0.2637, "step": 551000 }, { "epoch": 2.76, "learning_rate": 4.041666666666666e-06, "loss": 0.2714, "step": 551500 }, { "epoch": 2.76, "learning_rate": 4.000000000000001e-06, "loss": 0.2705, "step": 552000 }, { "epoch": 2.76, "learning_rate": 3.958333333333333e-06, "loss": 0.2626, "step": 552500 }, { "epoch": 2.77, "learning_rate": 3.916666666666667e-06, "loss": 0.2667, "step": 553000 }, { "epoch": 2.77, "learning_rate": 3.875e-06, "loss": 0.2612, "step": 553500 }, { "epoch": 2.77, "learning_rate": 3.833333333333334e-06, "loss": 0.264, "step": 554000 }, { "epoch": 2.77, "learning_rate": 3.791666666666667e-06, "loss": 0.2575, "step": 554500 }, { "epoch": 2.77, "learning_rate": 3.75e-06, "loss": 0.2619, "step": 555000 }, { "epoch": 2.78, "learning_rate": 3.708333333333334e-06, "loss": 0.2618, "step": 555500 }, { "epoch": 2.78, "learning_rate": 3.666666666666667e-06, "loss": 0.272, "step": 556000 }, { "epoch": 2.78, "learning_rate": 3.625e-06, "loss": 0.2626, "step": 556500 }, { "epoch": 2.79, "learning_rate": 3.5833333333333335e-06, "loss": 0.2609, "step": 557000 }, { "epoch": 2.79, "learning_rate": 3.541666666666667e-06, "loss": 0.2698, "step": 557500 }, { "epoch": 2.79, "learning_rate": 3.5000000000000004e-06, "loss": 0.271, "step": 558000 }, { "epoch": 2.79, "learning_rate": 3.4583333333333334e-06, "loss": 0.2632, "step": 558500 }, { "epoch": 2.79, "learning_rate": 3.4166666666666664e-06, "loss": 0.2636, "step": 559000 }, { "epoch": 2.8, "learning_rate": 3.3750000000000003e-06, "loss": 0.2669, "step": 559500 }, { "epoch": 2.8, "learning_rate": 3.3333333333333333e-06, "loss": 0.2588, "step": 560000 }, { "epoch": 2.8, "learning_rate": 3.2916666666666664e-06, "loss": 0.2689, "step": 560500 }, { "epoch": 2.81, "learning_rate": 3.2500000000000002e-06, "loss": 0.2648, "step": 561000 }, { "epoch": 2.81, "learning_rate": 3.2083333333333332e-06, "loss": 0.2655, "step": 561500 }, { "epoch": 2.81, "learning_rate": 3.166666666666667e-06, "loss": 0.2671, "step": 562000 }, { "epoch": 2.81, "learning_rate": 3.125e-06, "loss": 0.2611, "step": 562500 }, { "epoch": 2.81, "learning_rate": 3.0833333333333336e-06, "loss": 0.2695, "step": 563000 }, { "epoch": 2.82, "learning_rate": 3.041666666666667e-06, "loss": 0.2706, "step": 563500 }, { "epoch": 2.82, "learning_rate": 3e-06, "loss": 0.2589, "step": 564000 }, { "epoch": 2.82, "learning_rate": 2.9583333333333335e-06, "loss": 0.2674, "step": 564500 }, { "epoch": 2.83, "learning_rate": 2.916666666666667e-06, "loss": 0.2611, "step": 565000 }, { "epoch": 2.83, "learning_rate": 2.8750000000000004e-06, "loss": 0.2682, "step": 565500 }, { "epoch": 2.83, "learning_rate": 2.8333333333333335e-06, "loss": 0.2666, "step": 566000 }, { "epoch": 2.83, "learning_rate": 2.791666666666667e-06, "loss": 0.2603, "step": 566500 }, { "epoch": 2.83, "learning_rate": 2.7500000000000004e-06, "loss": 0.2658, "step": 567000 }, { "epoch": 2.84, "learning_rate": 2.7083333333333334e-06, "loss": 0.2655, "step": 567500 }, { "epoch": 2.84, "learning_rate": 2.666666666666667e-06, "loss": 0.2589, "step": 568000 }, { "epoch": 2.84, "learning_rate": 2.625e-06, "loss": 0.2685, "step": 568500 }, { "epoch": 2.84, "learning_rate": 2.5833333333333333e-06, "loss": 0.2587, "step": 569000 }, { "epoch": 2.85, "learning_rate": 2.5416666666666668e-06, "loss": 0.2633, "step": 569500 }, { "epoch": 2.85, "learning_rate": 2.5e-06, "loss": 0.2632, "step": 570000 }, { "epoch": 2.85, "learning_rate": 2.4583333333333332e-06, "loss": 0.2628, "step": 570500 }, { "epoch": 2.85, "learning_rate": 2.4166666666666667e-06, "loss": 0.2653, "step": 571000 }, { "epoch": 2.86, "learning_rate": 2.375e-06, "loss": 0.2628, "step": 571500 }, { "epoch": 2.86, "learning_rate": 2.3333333333333336e-06, "loss": 0.2619, "step": 572000 }, { "epoch": 2.86, "learning_rate": 2.2916666666666666e-06, "loss": 0.2647, "step": 572500 }, { "epoch": 2.87, "learning_rate": 2.25e-06, "loss": 0.2657, "step": 573000 }, { "epoch": 2.87, "learning_rate": 2.2083333333333335e-06, "loss": 0.2751, "step": 573500 }, { "epoch": 2.87, "learning_rate": 2.166666666666667e-06, "loss": 0.2631, "step": 574000 }, { "epoch": 2.87, "learning_rate": 2.1250000000000004e-06, "loss": 0.264, "step": 574500 }, { "epoch": 2.88, "learning_rate": 2.0833333333333334e-06, "loss": 0.2649, "step": 575000 }, { "epoch": 2.88, "learning_rate": 2.041666666666667e-06, "loss": 0.2623, "step": 575500 }, { "epoch": 2.88, "learning_rate": 2.0000000000000003e-06, "loss": 0.2602, "step": 576000 }, { "epoch": 2.88, "learning_rate": 1.9583333333333334e-06, "loss": 0.2749, "step": 576500 }, { "epoch": 2.88, "learning_rate": 1.916666666666667e-06, "loss": 0.2605, "step": 577000 }, { "epoch": 2.89, "learning_rate": 1.875e-06, "loss": 0.2634, "step": 577500 }, { "epoch": 2.89, "learning_rate": 1.8333333333333335e-06, "loss": 0.265, "step": 578000 }, { "epoch": 2.89, "learning_rate": 1.7916666666666667e-06, "loss": 0.2637, "step": 578500 }, { "epoch": 2.9, "learning_rate": 1.7500000000000002e-06, "loss": 0.2656, "step": 579000 }, { "epoch": 2.9, "learning_rate": 1.7083333333333332e-06, "loss": 0.265, "step": 579500 }, { "epoch": 2.9, "learning_rate": 1.6666666666666667e-06, "loss": 0.2665, "step": 580000 }, { "epoch": 2.9, "learning_rate": 1.6250000000000001e-06, "loss": 0.263, "step": 580500 }, { "epoch": 2.91, "learning_rate": 1.5833333333333336e-06, "loss": 0.2629, "step": 581000 }, { "epoch": 2.91, "learning_rate": 1.5416666666666668e-06, "loss": 0.2602, "step": 581500 }, { "epoch": 2.91, "learning_rate": 1.5e-06, "loss": 0.2641, "step": 582000 }, { "epoch": 2.91, "learning_rate": 1.4583333333333335e-06, "loss": 0.2647, "step": 582500 }, { "epoch": 2.92, "learning_rate": 1.4166666666666667e-06, "loss": 0.2639, "step": 583000 }, { "epoch": 2.92, "learning_rate": 1.3750000000000002e-06, "loss": 0.2606, "step": 583500 }, { "epoch": 2.92, "learning_rate": 1.3333333333333334e-06, "loss": 0.2675, "step": 584000 }, { "epoch": 2.92, "learning_rate": 1.2916666666666667e-06, "loss": 0.2665, "step": 584500 }, { "epoch": 2.92, "learning_rate": 1.25e-06, "loss": 0.2689, "step": 585000 }, { "epoch": 2.93, "learning_rate": 1.2083333333333333e-06, "loss": 0.264, "step": 585500 }, { "epoch": 2.93, "learning_rate": 1.1666666666666668e-06, "loss": 0.2664, "step": 586000 }, { "epoch": 2.93, "learning_rate": 1.125e-06, "loss": 0.2663, "step": 586500 }, { "epoch": 2.94, "learning_rate": 1.0833333333333335e-06, "loss": 0.2583, "step": 587000 }, { "epoch": 2.94, "learning_rate": 1.0416666666666667e-06, "loss": 0.2715, "step": 587500 }, { "epoch": 2.94, "learning_rate": 1.0000000000000002e-06, "loss": 0.2633, "step": 588000 }, { "epoch": 2.94, "learning_rate": 9.583333333333334e-07, "loss": 0.2661, "step": 588500 }, { "epoch": 2.94, "learning_rate": 9.166666666666667e-07, "loss": 0.2657, "step": 589000 }, { "epoch": 2.95, "learning_rate": 8.750000000000001e-07, "loss": 0.2597, "step": 589500 }, { "epoch": 2.95, "learning_rate": 8.333333333333333e-07, "loss": 0.2588, "step": 590000 }, { "epoch": 2.95, "learning_rate": 7.916666666666668e-07, "loss": 0.2609, "step": 590500 }, { "epoch": 2.96, "learning_rate": 7.5e-07, "loss": 0.2609, "step": 591000 }, { "epoch": 2.96, "learning_rate": 7.083333333333334e-07, "loss": 0.255, "step": 591500 }, { "epoch": 2.96, "learning_rate": 6.666666666666667e-07, "loss": 0.2578, "step": 592000 }, { "epoch": 2.96, "learning_rate": 6.25e-07, "loss": 0.2673, "step": 592500 }, { "epoch": 2.96, "learning_rate": 5.833333333333334e-07, "loss": 0.2704, "step": 593000 }, { "epoch": 2.97, "learning_rate": 5.416666666666667e-07, "loss": 0.2633, "step": 593500 }, { "epoch": 2.97, "learning_rate": 5.000000000000001e-07, "loss": 0.2589, "step": 594000 }, { "epoch": 2.97, "learning_rate": 4.583333333333334e-07, "loss": 0.2603, "step": 594500 }, { "epoch": 2.98, "learning_rate": 4.1666666666666667e-07, "loss": 0.2635, "step": 595000 }, { "epoch": 2.98, "learning_rate": 3.75e-07, "loss": 0.263, "step": 595500 }, { "epoch": 2.98, "learning_rate": 3.3333333333333335e-07, "loss": 0.2623, "step": 596000 }, { "epoch": 2.98, "learning_rate": 2.916666666666667e-07, "loss": 0.2621, "step": 596500 }, { "epoch": 2.98, "learning_rate": 2.5000000000000004e-07, "loss": 0.2615, "step": 597000 }, { "epoch": 2.99, "learning_rate": 2.0833333333333333e-07, "loss": 0.2562, "step": 597500 }, { "epoch": 2.99, "learning_rate": 1.6666666666666668e-07, "loss": 0.2668, "step": 598000 }, { "epoch": 2.99, "learning_rate": 1.2500000000000002e-07, "loss": 0.2564, "step": 598500 }, { "epoch": 3.0, "learning_rate": 8.333333333333334e-08, "loss": 0.2537, "step": 599000 }, { "epoch": 3.0, "learning_rate": 4.166666666666667e-08, "loss": 0.2578, "step": 599500 }, { "epoch": 3.0, "learning_rate": 0.0, "loss": 0.268, "step": 600000 }, { "epoch": 3.0, "step": 600000, "total_flos": 3.6260000253944463e+18, "train_loss": 0.36228691443125405, "train_runtime": 297196.5509, "train_samples_per_second": 32.302, "train_steps_per_second": 2.019 } ], "max_steps": 600000, "num_train_epochs": 3, "total_flos": 3.6260000253944463e+18, "trial_name": null, "trial_params": null }