README.md

metadata

dataset_info:
  - config_name: 10%
    features:
      - name: url
        dtype: string
      - name: content
        dtype: string
      - name: llm_score
        dtype: float64
    splits:
      - name: train
        num_bytes: 188525951293
        num_examples: 24243597
    download_size: 99765645496
    dataset_size: 188525951293
  - config_name: 30%
    features:
      - name: url
        dtype: string
      - name: content
        dtype: string
      - name: llm_score
        dtype: float64
    splits:
      - name: train
        num_bytes: 482600436370
        num_examples: 74170574
    download_size: 261467160643
    dataset_size: 482600436370
  - config_name: 50%
    features:
      - name: url
        dtype: string
      - name: content
        dtype: string
      - name: llm_score
        dtype: float64
    splits:
      - name: train
        num_bytes: 582252214559
        num_examples: 119362782
    download_size: 319357584394
    dataset_size: 582252214559
configs:
  - config_name: 10%
    data_files:
      - split: train
        path: 10%/train-*
  - config_name: 30%
    data_files:
      - split: train
        path: 30%/train-*
    default: true
  - config_name: 50%
    data_files:
      - split: train
        path: 50%/train-*

ABEJA-CC-JA-edu

Summary

このデータセットは株式会社ABEJAが公開するABEJA-CC-JAに対し、 tokyotech-llm/edu-classifierでフィルタリングしたものとなります。

10%

LLM-based classifierで上位10%のスコアの文章です。閾値には>= 1.9を使用しました。

30%

LLM-based classifierで上位30%のスコアの文章です。閾値には>= 1.02を使用しました。

50%

LLM-based classifierで上位50%のスコアの文章です。閾値には>= 0.98を使用しました。