shoumenchougou commited on
Commit
d440505
·
verified ·
1 Parent(s): 2d2ce75

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -5
README.md CHANGED
@@ -7,7 +7,7 @@ license: apache-2.0
7
 
8
  ## 训练数据集说明
9
 
10
- 以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA 数据,共 1B(1014434168) token。**训练数据基本信息:**
11
 
12
  |数据文件名| 数据条数| 数据说明|示例|
13
  |--------------|----------|------------------------------------|-----------|
@@ -37,9 +37,9 @@ license: apache-2.0
37
 
38
  ## 测试集说明
39
 
40
- 我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,其存在的组合数量超过 10 的 36 次方个,我们的训练集数据条数为 30000587,测试集为 6691 条,测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%,可以保证测试集和训练集基本无重复。
41
 
42
- 此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
43
 
44
  ### 数据生成脚本
45
 
@@ -51,6 +51,6 @@ license: apache-2.0
51
 
52
  ### 测试脚本
53
 
54
- 测试脚本文件为 `Test.ipynb`,有两个测试代码,一个测试指定的 jsonl 文件,另一个则测试整个文件夹中的全部 jsonl 文件。
55
 
56
- 使用时,只需要修改输入路径 `INPUT_FOLDER_PATH` 和输出路径 `OUTPUT_FOLDER_PATH`即可。
 
7
 
8
  ## 训练数据集说明
9
 
10
+ 以下是我们使用的加减法训练数据类型,共包含 30000587 条单轮加减法 QA 数据,共 1B(1014434168) token
11
 
12
  |数据文件名| 数据条数| 数据说明|示例|
13
  |--------------|----------|------------------------------------|-----------|
 
37
 
38
  ## 测试集说明
39
 
40
+ 我们使用同一套数据集生成代码生成了和训练集分布相同的测试集,因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位,存在的数字组合数量超过 10 的 36 次方,我们的训练集数据条数为 30000587,测试集为 6691 条,测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%,可以保证测试集和训练集基本无重复。
41
 
42
+ **⚠️ 注意**:此处的概率为粗略估计,且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
43
 
44
  ### 数据生成脚本
45
 
 
51
 
52
  ### 测试脚本
53
 
54
+ 测试脚本文件为 `Test.ipynb`,此脚本用于测试一个文件夹中的全部 jsonl 文件。它将模型的输出和测试数据的 `Assistant` 部分进行比较,以确认回答是否正确。
55
 
56
+ 使用时,只需要修改输入路径 `INPUT_FOLDER_PATH` 和输出路径 `OUTPUT_FOLDER_PATH` 即可。