README.md

---
dataset_info:
- config_name: 10%
  features:
  - name: url
    dtype: string
  - name: content
    dtype: string
  - name: llm_score
    dtype: float64
  splits:
  - name: train
    num_bytes: 188525951293
    num_examples: 24243597
  download_size: 99765645496
  dataset_size: 188525951293
- config_name: 30%
  features:
  - name: url
    dtype: string
  - name: content
    dtype: string
  - name: llm_score
    dtype: float64
  splits:
  - name: train
    num_bytes: 482600436370
    num_examples: 74170574
  download_size: 261467160643
  dataset_size: 482600436370
- config_name: 50%
  features:
  - name: url
    dtype: string
  - name: content
    dtype: string
  - name: llm_score
    dtype: float64
  splits:
  - name: train
    num_bytes: 582252214559
    num_examples: 119362782
  download_size: 319357584394
  dataset_size: 582252214559
configs:
- config_name: 10%
  data_files:
  - split: train
    path: 10%/train-*
- config_name: 30%
  data_files:
  - split: train
    path: 30%/train-*
  default: true
- config_name: 50%
  data_files:
  - split: train
    path: 50%/train-*
---
# ABEJA-CC-JA-edu
## Summary
このデータセットは[株式会社ABEJA](https://www.abejainc.com/)が公開する[ABEJA-CC-JA](https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409)に対し、
[tokyotech-llm/edu-classifier](https://huggingface.co/tokyotech-llm/edu-classifier)でフィルタリングしたものとなります。

## 10%
LLM-based classifierで上位10%のスコアの文章です。閾値には`>= 1.9`を使用しました。

## 30%
LLM-based classifierで上位30%のスコアの文章です。閾値には`>= 1.02`を使用しました。

## 50% 
LLM-based classifierで上位50%のスコアの文章です。閾値には`>= 0.98`を使用しました。