Create SpaCE2021.py

SpaCE2021.py

@@ -0,0 +1,175 @@
+
+import datasets
+import json
+from typing import List
+
+_LICENSE = """
+## CCL2021中文空间语义理解评测数据集使用许可
+
+由 北京大学计算语言学研究所 授权给（使用者）
+
+#### 一
+
+1. 任何使用本数据集的主体都需要知晓、理解并同意本许可的全部内容。
+2. 传播本数据集的主体必须同时提供本许可并要求传播受众知晓、理解并同意本许可的全部内容。
+3. 使用本数据集即代表知晓、理解并同意本许可的全部内容。
+
+#### 二
+
+1. 本数据集的版权归北京大学计算语言学研究所（下简称“版权所有者”）所有。
+2. 本数据集将分阶段在CCL2021中文空间语义理解评测活动中发布。
+3. 版权所有者对本数据集内容有权进行任何修改，修改后，如无特殊说明，使用者仍需遵守本许可的条款。
+4. 版权所有者对本数据集的名称、网站等相关信息、材料等有权进行任何修改，修改后，如无特殊说明，使用者仍需遵守本许可的条款。
+
+#### 三
+
+1. 本数据集仅供以下用途使用：
+   (1) 参赛选手在比赛中使用。参看《[CCL2021中文空间语义理解评测选手参赛协议](https://github.com/2030NLP/SpaCE2021/blob/main/Agreement.md)》。
+   (2) 高校、科研机构在科学研究中使用。
+2. 本数据集禁止用于任何商业目的，不提供任何形式的商业授权。除了在参与CCL2021中文空间语义理解评测的过程中为参赛而使用本数据集，公司或其他商业机构禁止使用本数据集。
+3. 使用本数据进行科学研究，发表论文或其他材料时应注明：“本研究使用了CCL2021北京大学组织的‘中文空间语义理解’评测数据”，并在参考文献中引用版权所有者的评测报告论文（请关注举办方后续的论文发表情况）。
+
+#### 四
+
+1. 本许可证的最终解释权归属于版权所有者。
+
+北京大学计算语言学研究所
+2021年3月31日
+"""
+
+_DESCRIPTION = """SpaCE2021"""
+# 詹卫东、孙春晖、岳朋雪、唐乾桐、秦梓巍，2022，空间语义理解能力评测任务设计的新思路——SpaCE2021数据集的研制，《语言文字应用》2022年第2期（总第122期），pp.99-110。
+_CITATION = """
+@article{space2021,
+title={空间语义理解能力评测任务设计的新思路——SpaCE2021数据集的研制},
+author={詹卫东 and 孙春晖 and 岳朋雪 and 唐乾桐 and 秦梓巍},
+journal={语言文字应用},
+volume={2022},
+number={2},
+pages={99-110},
+year={2022}
+}
+"""
+
+_DESCRIPTION_TASK1 = """SpaCE2021 Task1"""
+_DESCRIPTION_TASK2 = """SpaCE2021 Task2"""
+_DESCRIPTION_TASK3 = """SpaCE2021 Task3"""
+
+
+
+_DESCRIPTION_DICT = {
+    'task1': _DESCRIPTION_TASK1,
+    'task2': _DESCRIPTION_TASK2,
+    'task3': _DESCRIPTION_TASK3,
+}
+
+# _URLS_ROOT = "https://huggingface.co/datasets/2030NLP/SpaCE2021/raw/main/"
+_URLS_ROOT = "./"
+_URLS_DICT = {
+    'task1': {
+        'train': _URLS_ROOT + "data/task1/task1-train.jsonl",
+        'dev': _URLS_ROOT + "data/task1/task1-dev.jsonl",
+        'test': _URLS_ROOT + "data/task1/task1-test.jsonl",
+    },
+    'task2': {
+        'train': _URLS_ROOT + "data/task2/task2-train.jsonl",
+        'dev': _URLS_ROOT + "data/task2/task2-dev.jsonl",
+        'test': _URLS_ROOT + "data/task2/task2-test.jsonl",
+    },
+    'task3': {
+        'dev': _URLS_ROOT + "data/task3/task3-dev.jsonl",
+        'test': _URLS_ROOT + "data/task3/task3-test.jsonl",
+    },
+}
+
+
+_FEATURES_DICT = {
+    'task1': {
+        "qID": datasets.Value(dtype="string"),
+        "context": datasets.Value(dtype="string"),
+        "judge1": datasets.Value(dtype="bool"),
+    },
+    'task2': {
+        "qID": datasets.Value(dtype="string"),
+        "context": datasets.Value(dtype="string"),
+        "reason": datasets.Value(dtype="string"),
+        "judge2": datasets.Value(dtype="bool"),
+    },
+    'task3': {
+        "qID": datasets.Value(dtype="string"),
+        "context": datasets.Value(dtype="string"),
+        "reason": datasets.Value(dtype="string"),
+        "judge1": datasets.Value(dtype="bool"),
+        "judge2": datasets.Value(dtype="bool"),
+    },
+}
+
+_split_name_map = {
+    'train': datasets.Split.TRAIN,
+    'dev': datasets.Split.VALIDATION,
+    'test': datasets.Split.TEST,
+}
+
+
+
+
+class SpaCE2021Config(datasets.BuilderConfig):
+    """BuilderConfig for SpaCE2021."""
+
+    def __init__(self, features, splits, **kwargs):
+        # Version history:
+        # 1.0518.0: final version used in SpaCE2021 Eval.
+        super().__init__(version=datasets.Version("1.0518.0"), **kwargs)
+        self.features = features
+        self.splits = splits
+
+
+class SpaCE2021(datasets.GeneratorBasedBuilder):
+    """The SpaCE2021 benchmark."""
+
+    BUILDER_CONFIGS = [
+        SpaCE2021Config(
+            name="task1",
+            splits=['train', 'dev', 'test'],
+        ),
+        SpaCE2021Config(
+            name="task2",
+            splits=['train', 'dev', 'test'],
+        ),
+        SpaCE2021Config(
+            name="task3",
+            splits=['dev', 'test'],
+        ),
+    ]
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION_DICT[self.config.name],
+            features=_FEATURES_DICT[self.config.name],
+            homepage="http://ccl.pku.edu.cn:8084/SpaCE2021/",
+            citation=_CITATION,
+            license=_LICENSE,
+        )
+
+    def _split_generators(self, dl_manager: datasets.DownloadManager) -> List[datasets.SplitGenerator]:
+
+        # 在 hugging face 中如何为 dataset 创建 _split_generators 函数？
+
+        split_things = []
+        for split_name in self.config.splits:
+            split_thing = datasets.SplitGenerator(
+                name=_split_name_map[split_name],
+                gen_kwargs={
+                    "data_file": dl_manager.download(_URLS_DICT[self.config.name][split_name]),
+                    "split": split_name,
+                }
+            )
+            split_things.append(split_thing)
+        return split_things
+
+    def _generate_examples(self, filepath):
+        with open(filepath, encoding="utf-8") as f:
+            for idx, line in enumerate(f):
+                example = json.loads(line.strip())
+                yield idx, example
+