kajuma commited on
Commit
1354881
·
verified ·
1 Parent(s): 98d6604

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +14 -0
README.md CHANGED
@@ -57,3 +57,17 @@ configs:
57
  - split: train
58
  path: 50%/train-*
59
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
57
  - split: train
58
  path: 50%/train-*
59
  ---
60
+ # ABEJA-CC-JA-edu
61
+ ## Summary
62
+ このデータセットは[株式会社ABEJA](https://www.abejainc.com/)が公開する[ABEJA-CC-JA](https://tech-blog.abeja.asia/entry/abeja-cc-ja-202409)に対し、
63
+ [tokyotech-llm/edu-classifier](https://huggingface.co/tokyotech-llm/edu-classifier)でフィルタリングしたものとなります。
64
+
65
+ ## 10%
66
+ LLM-based classifierで上位10%のスコアの文章です。閾値には`>= 1.9`を使用しました。
67
+
68
+ ## 30%
69
+ LLM-based classifierで上位30%のスコアの文章です。閾値には`>= 1.02`を使用しました。
70
+
71
+ ## 50%
72
+ LLM-based classifierで上位50%のスコアの文章です。閾値には`>= 0.98`を使用しました。
73
+