File size: 1,782 Bytes
f4986a2 bb994fe f4986a2 bb994fe 39c614b f4986a2 bb994fe 98d6604 39c614b f4986a2 1354881 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 |
---
dataset_info:
- config_name: 10%
features:
- name: url
dtype: string
- name: content
dtype: string
- name: llm_score
dtype: float64
splits:
- name: train
num_bytes: 188525951293
num_examples: 24243597
download_size: 99765645496
dataset_size: 188525951293
- config_name: 30%
features:
- name: url
dtype: string
- name: content
dtype: string
- name: llm_score
dtype: float64
splits:
- name: train
num_bytes: 482600436370
num_examples: 74170574
download_size: 261467160643
dataset_size: 482600436370
- config_name: 50%
features:
- name: url
dtype: string
- name: content
dtype: string
- name: llm_score
dtype: float64
splits:
- name: train
num_bytes: 582252214559
num_examples: 119362782
download_size: 319357584394
dataset_size: 582252214559
configs:
- config_name: 10%
data_files:
- split: train
path: 10%/train-*
- config_name: 30%
data_files:
- split: train
path: 30%/train-*
default: true
- config_name: 50%
data_files:
- split: train
path: 50%/train-*
---
# ABEJA-CC-JA-edu
## Summary
このデータセットは[株式会社ABEJA](https://www.abejainc.com/)が公開する[ABEJA-CC-JA](https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409)に対し、
[tokyotech-llm/edu-classifier](https://huggingface.co/tokyotech-llm/edu-classifier)でフィルタリングしたものとなります。
## 10%
LLM-based classifierで上位10%のスコアの文章です。閾値には`>= 1.9`を使用しました。
## 30%
LLM-based classifierで上位30%のスコアの文章です。閾値には`>= 1.02`を使用しました。
## 50%
LLM-based classifierで上位50%のスコアの文章です。閾値には`>= 0.98`を使用しました。
|