Update README.md
Browse files
README.md
CHANGED
@@ -7,7 +7,7 @@ license: apache-2.0
|
|
7 |
|
8 |
## 训练数据集说明
|
9 |
|
10 |
-
以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA 数据,共 1B(1014434168) token
|
11 |
|
12 |
|数据文件名| 数据条数| 数据说明|示例|
|
13 |
|--------------|----------|------------------------------------|-----------|
|
@@ -37,9 +37,9 @@ license: apache-2.0
|
|
37 |
|
38 |
## 测试集说明
|
39 |
|
40 |
-
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6
|
41 |
|
42 |
-
|
43 |
|
44 |
### 数据生成脚本
|
45 |
|
@@ -51,6 +51,6 @@ license: apache-2.0
|
|
51 |
|
52 |
### 测试脚本
|
53 |
|
54 |
-
测试脚本文件为 `Test.ipynb
|
55 |
|
56 |
-
使用时,只需要修改输入路径 `INPUT_FOLDER_PATH` 和输出路径 `OUTPUT_FOLDER_PATH
|
|
|
7 |
|
8 |
## 训练数据集说明
|
9 |
|
10 |
+
以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA 数据,共 1B(1014434168) token。
|
11 |
|
12 |
|数据文件名| 数据条数| 数据说明|示例|
|
13 |
|--------------|----------|------------------------------------|-----------|
|
|
|
37 |
|
38 |
## 测试集说明
|
39 |
|
40 |
+
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,存在的数字组合数量超过 10 的 36 次方,我们的训练集数据条数为 30000587,测试集为 6691 条,测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%,可以保证测试集和训练集基本无重复。
|
41 |
|
42 |
+
**⚠️ 注意**:此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
|
43 |
|
44 |
### 数据生成脚本
|
45 |
|
|
|
51 |
|
52 |
### 测试脚本
|
53 |
|
54 |
+
测试脚本文件为 `Test.ipynb`,此脚本用于测试一个文件夹中的全部 jsonl 文件。它将模型的输出和测试数据的 `Assistant` 部分进行比较,以确认回答是否正确。
|
55 |
|
56 |
+
使用时,只需要修改输入路径 `INPUT_FOLDER_PATH` 和输出路径 `OUTPUT_FOLDER_PATH` 即可。
|