Update README.md
Browse files
README.md
CHANGED
@@ -7,7 +7,7 @@ license: apache-2.0
|
|
7 |
|
8 |
## 训练数据集说明
|
9 |
|
10 |
-
以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA
|
11 |
|
12 |
|数据文件名| 数据条数| 数据说明|示例|
|
13 |
|--------------|----------|------------------------------------|-----------|
|
@@ -34,10 +34,10 @@ license: apache-2.0
|
|
34 |
| X_en_random_mix |1000000 | **1.** 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字<br>**2.** 运算符附近有 1~2 个随机空格<br>**3.** 含简单自然语言描述/自然语言噪声<br>4. 对每个单词逐个字母进行大小写随机<br>5. 解方程格式 |{"text": "User: miNus FouR PoINT TWO fOUr fIve FOUR zERo zerO sIx TiMeS tEN tO the pOWEr OF EigHT+x=-424539854.8 , x = ?\n\nAssistant: x = -424539854.8 + 424540060 = 205.2"} |
|
35 |
| qa_error |248 | 噪声数据,答案为:无法相加 | {"text": "User: 椅子 + 桌子 =\n\nAssistant: 无法相加"} |
|
36 |
| qa_gibberish_unanswerable |10000 | 乱码数据,答案为:无法回答| {"text": "User: &ad>]`Fx'uD/jPr~Xp!e:x#K4~{\n\nAssistant: 无法回答"} |
|
37 |
-
|
38 |
## 测试集说明
|
39 |
|
40 |
-
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,存在的数字组合数量超过 10 的 36 次方,我们的训练集数据条数为 30000587,测试集为 6691 条,测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%,可以保证测试集和训练集基本无重复。
|
41 |
|
42 |
**⚠️ 注意**:此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
|
43 |
|
|
|
7 |
|
8 |
## 训练数据集说明
|
9 |
|
10 |
+
以下是我们使用的加减法训练数据类型,共包含 ~~30000587~~ 33000147 条单轮加减法 QA 数据,约 1B(1014434168) token。
|
11 |
|
12 |
|数据文件名| 数据条数| 数据说明|示例|
|
13 |
|--------------|----------|------------------------------------|-----------|
|
|
|
34 |
| X_en_random_mix |1000000 | **1.** 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字<br>**2.** 运算符附近有 1~2 个随机空格<br>**3.** 含简单自然语言描述/自然语言噪声<br>4. 对每个单词逐个字母进行大小写随机<br>5. 解方程格式 |{"text": "User: miNus FouR PoINT TWO fOUr fIve FOUR zERo zerO sIx TiMeS tEN tO the pOWEr OF EigHT+x=-424539854.8 , x = ?\n\nAssistant: x = -424539854.8 + 424540060 = 205.2"} |
|
35 |
| qa_error |248 | 噪声数据,答案为:无法相加 | {"text": "User: 椅子 + 桌子 =\n\nAssistant: 无法相加"} |
|
36 |
| qa_gibberish_unanswerable |10000 | 乱码数据,答案为:无法回答| {"text": "User: &ad>]`Fx'uD/jPr~Xp!e:x#K4~{\n\nAssistant: 无法回答"} |
|
37 |
+
|qa_add_sci-30M(新增)|3000000|使用科学计数法的加减法数据,多种混合|{"text": "User: 贰億7仟捌佰叁拾玖萬9仟叁佰2拾贰-x=2.78398392e+8, x 的值是?\n\nAssistant: x = 278399322 - 278398392 = 930"}|
|
38 |
## 测试集说明
|
39 |
|
40 |
+
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,存在的数字组合数量超过 10 的 36 次方,我们的训练集数据条数为 ~~30000587~~ 33000147,测试集为 6691 条,测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%,可以保证测试集和训练集基本无重复。
|
41 |
|
42 |
**⚠️ 注意**:此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
|
43 |
|