metadata
license: apache-2.0
RWKV-7-Arithmetic-0.1B 加减法运算模型的训练和测试数据集。
该模型实现基础加减法运算和加减法方程求解功能，能够处理整数部分为 1-12 位、小数部分为 0-6 位的数值，支持中英文数字、全半角格式以及大小写字符的多种表示形式，可实现基础加减法运算和加减法方程求解功能。
训练数据集说明
以下是我们使用的加减法训练数据类型，共包含 30000587 33000147 条单轮加减法 QA 数据，约 1B（1014434168） token。
| 数据文件名 | 数据条数 | 数据说明 | 示例 |
|---|---|---|---|
| ADD_4M | 3997733 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 含简单自然语言描述/自然语言噪声 |
{"text": "User: 249476576 减 796580834 还剩多少？\n\nAssistant: -547104258"} |
| ADD_2M | 1999673 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 含简单自然语言描述/自然语言噪声 |
{"text": "User: 捌仟玖佰捌拾叁点肆贰陆玖+9334160.73357\n\nAssistant: 9343144.16047"} |
| ADD_base_8M | 7992002 | -999~999的全部两两组合，仅算术式子，无任何随机更改 | {"text": "User: -999 + -991 = ?\n\nAssistant: -1990"} |
| ADD_n1m0 | 270887 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字； 2. 运算符附近有 1~2 个随机空格 3. 额外限制最少有 1 次进/退位 |
{"text": "User: 78041304-805555\n\nAssistant: 77235749"} |
| ADD_n1m1 | 199900 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 含简单自然语言描述/自然语言噪声 4. 限制最少 1 次进/退位 |
{"text": "User: ３９２１８５７２１４+玖仟柒佰肆拾壹萬肆仟叁佰玖拾肆 = ?\n\nAssistant: 4019271608"} |
| ADD_n2m0 | 270798 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字； 2. 运算符附近有 1~2 个随机空格 3. 额外限制最少有 2 次进/退位 |
{"text": "User: 9420731235+陆仟柒佰伍拾陆萬肆仟贰佰玖拾玖\n\nAssistant: 9488295534"} |
| ADD_n2m1 | 199847 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 含简单自然语言描述/自然语言噪声 4. 限制至少 2 次进/退位 |
{"text": "User: ３０６８５３６２+柒仟壹佰肆拾萬壹仟壹佰贰拾捌 = ?\n\nAssistant: 102086490"} |
| ADD_n3m0 | 270853 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字； 2. 运算符附近有 1~2 个随机空格 3. 额外限制最少有 3 次进/退位 |
{"text": "User: 肆拾叁億肆仟伍佰零肆萬贰仟肆佰捌拾玖加78759970978\n\nAssistant: 83105013467"} |
| ADD_n4m3 | 271345 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字； 2. 运算符附近有 1~2 个随机空格 3. 额外限制最少有 4 次进/退位，且至少有一个连续进/退位长度为 3 的连续段 |
{"text": "User: 六亿两千三百二十八万一千零二十四点五四五二六减２３２９５５８．３３３１７\n\nAssistant: 620951466.21209"} |
| ADD_random_0.25M | 249735 | 1. 逐位随机进行替换 2. 替换内容为：大小写中文、全半角数字、（例如：叁2五） 3. 每个数字和运算符直接随机0~2个空格 |
{"text": "User: ４６４９５５６９．６７８８６-四百６十亿8千六百４十二万贰千陆百8十玖点九３四五伍=？\n\nAssistant: -46039927120.25569"} |
| ADD_random_4M | 4494484 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换数字的某个位，例如：八4肆 2. 数字内部和运算符附近有 1~2 个随机空格 |
{"text": "User: ８千１百陆十六万捌千8百捌十捌-2仟５佰壹拾八 億2仟六佰１拾八萬陆仟 六佰５拾五\n\nAssistant: -251744517767"} |
| ADD_many0_50k | 50000 | 强化数据，如2.000+1 | {"text": "User: -315052474 4.00 和 ８２５８２４１４９１７６．００００ 等于？\n\nAssistant: 822673624432"} |
| ADD_en | 976394 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’、‘英文数字’随机替换整个数字； 例如： 叁3三３three THREE Three |
{"text": "User: seven Nine FOUR six six One seven NINE SIX one ZERO zero point Six SIX ONE seven NINE six One NINE+2=?\n\nAssistant: 794661796102"} |
| ADD_en_base_1M-v1 | 1000000 | 英语基础数据，从qa_add_base_8M.jsonl下采样直译而来 | {"text": "User: 275MINUS six Hundred sixty five= , solve this.\n\nAssistant: -390"} |
| ADD_en_base_1M-v2 | 1000000 | 英语基础数据，从qa_add_base_8M.jsonl下采样直译而来 | {"text": "User: -684 plusfour Hundred eighty Five=equals WHAT?\n\nAssistant: -199"} |
| ADD_en_random_mix | 1464727 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’、‘英文数字’随机替换整个数字； 2. 对每个单词逐个字母进行大小写随机 例如： 叁3三３three THREE Three tHrEe |
{"text": "User: ６９４１+Six MILLION Three HUNDRED FIFTY four THOUSAND TWENTY three=?\n\nAssistant: 6360964"} |
| ADD_en_by-desc | 489961 | 1. 使用‘全角’、‘英文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 含简单自然语言描述/自然语言噪声 |
{"text": "User: What is Eight three five Eight TWO four zero TWO Point Four added To 10994.06?\n\nAssistant: 83593396.46"} |
| ADD_use-connect | 1542000 | 强制使用标准化的英文连接符 | {"text": "User: FIVE-BILLION-EIGHT-HUNDRED-NINETY-THREE-MILLION-NINE-HUNDRED-FIFTY-FIVE-THOUSAND-EIGHT-HUNDRED-FORTY-THREE+ NiNE-HUndred-FoRTY-sIx-BiLlIon-sIx-hUnDReD-Eighty-foUr-miLLiON-Eight-HunDRed-seveNty-two-THoUSAND-FOUR-HUndREd-FiFty-nIne-PoInT-EIGHT-nINe-siX-SIX = ?\n\nAssistant: 952578828302.8966"} |
| X_ch_mix | 2000000 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 随机中英问号 4. 解方程格式 |
{"text": "User: x+514= 585.028, 求解 x。\n\nAssistant: x = 585.028 - 514 = 71.028"} |
| X_ch_en_mix | 250000 | 1. 使用‘全角’、‘英文数字’、‘中文数字’、‘大写中文数字'随机替换数字的某个位 2. 运算符附近有 1~2 个随机空格 3. 随机中英问号 4. 解方程格式 |
{"text": "User: x-６８５９１９一７１８５=－68伍９1玖1692捌, 求 x 的值。\n\nAssistant: x = -68591916928 + 68591917185 = 257"} |
| X_en_random_mix | 1000000 | 1. 使用‘全角’、‘中文数字’、‘大写中文数字’随机替换整个数字 2. 运算符附近有 1~2 个随机空格 3. 含简单自然语言描述/自然语言噪声 4. 对每个单词逐个字母进行大小写随机 5. 解方程格式 |
{"text": "User: miNus FouR PoINT TWO fOUr fIve FOUR zERo zerO sIx TiMeS tEN tO the pOWEr OF EigHT+x=－４２４５３９８５４．８ , x = ?\n\nAssistant: x = -424539854.8 + 424540060 = 205.2"} |
| qa_error | 248 | 噪声数据，答案为：无法相加 | {"text": "User: 椅子 + 桌子 =\n\nAssistant: 无法相加"} |
| qa_gibberish_unanswerable | 10000 | 乱码数据，答案为：无法回答 | {"text": "User: &ad>]`Fx'uD/jPr |
| qa_add_sci-30M（新增） | 3000000 | 使用科学计数法的加减法数据，多种混合 | {"text": "User: 贰億7仟捌佰叁拾玖萬９仟叁佰2拾贰-x=2.78398392e+8, x 的值是？\n\nAssistant: x = 278399322 - 278398392 = 930"} |
测试集说明
我们使用同一套数据集生成代码生成了和训练集分布相同的测试集，因为生成的加减法数据整数部分为 1-12 位、小数部分为 0-6 位，存在的数字组合数量超过 10 的 36 次方，我们的训练集数据条数为 30000587 33000147，测试集为 6691 条，测试集和训练集出现至少 1 条重复数据的概率小于 0.00002%，可以保证测试集和训练集基本无重复。
⚠️ 注意：此处的概率为粗略估计，且忽略了 ADD_base 数据和相应的测试集 ADD_base_test 中必定出现的合理重复。
数据生成脚本
数据生成的脚本文件为 make_data_v2.ipynb ，包含全部 15 个类型/ 23 个文件的生成代码，可以查看脚本中的说明。
生成时数据的位数使用公式 min(0.1, 0.2x(0.8)^(n-1))（n 为数字位数） 计算生成概率，以保持生成数据的位数分布。先使用该公式计算数字池，长度为指定位数的数字的生成概率，最终每个单独的概率除以概率总和，实现总体概率为 100%
注意：强制数字必须有多个进位时，会导致部分低位数字被抛弃，进而破坏此公式。
测试脚本
测试脚本文件为 Test.ipynb，此脚本用于测试一个文件夹中的全部 jsonl 文件。它将模型的输出和测试数据的 Assistant 部分进行比较，以确认回答是否正确。
使用时，只需要修改输入路径 INPUT_FOLDER_PATH 和输出路径 OUTPUT_FOLDER_PATH 即可。