kaibun-dataset / csv2json.py
thr3a
add:
5c31597
import csv
import json
RULE_PROMPT = """
ไปฅไธ‹ใฎๆกไปถใซๅพ“ใ„ใ€ๆ—ฅๆœฌ่ชžใฎ12ๆ–‡ๅญ—ไปฅๅ†…ใฎๅ›žๆ–‡ใ‚’ไฝœๆˆใ—ใฆใใ ใ•ใ„ใ€‚
ใ€ๆกไปถใ€‘
ใƒปๅ›žๆ–‡ใจใฏใ€ๅ‰ใ‹ใ‚‰่ชญใ‚“ใงใ‚‚ๅพŒใ‚ใ‹ใ‚‰่ชญใ‚“ใงใ‚‚ๅŒใ˜ๆ–‡็ซ ใจใชใ‚‹ใ‚‚ใฎใงใ™ใ€‚
ไพ‹ใˆใฐใ€Œใ‚ขใƒชๆŠฑใใƒ€ใƒชใ‚ขใ€ใฏใฒใ‚‰ใŒใชใซ็›ดใ™ใจใ€Œใ‚ใ‚Šใ ใใ ใ‚Šใ‚ใ€ใจใชใ‚Šๅ‰ใ‹ใ‚‰่ชญใ‚“ใงใ‚‚ๅพŒใ‚ใ‹ใ‚‰่ชญใ‚“ใงใ‚‚ๅŒใ˜ๆ–‡็ซ ใซใชใ‚‹ใฎใงๅ›žๆ–‡ใจใ„ใˆใพใ™ใ€‚
ใƒปๅ›ž็ญ”ใฏๅฟ…ใš12ๆ–‡ๅญ—ไปฅๅ†…ใซใ—ใฆใใ ใ•ใ„ใ€‚
ใƒปใ€Œๆ–ฐ่ž็ด™ใ€ใ‚„ใ€Œใƒˆใƒžใƒˆใ€ใชใฉใ€1ๅ˜่ชžใ ใ‘ใงๆˆ็ซ‹ใ™ใ‚‹้€†ใ•่จ€่‘‰ใฏๅฏพ่ฑกๅค–ใงใ™ใ€‚ๅฟ…ใš่ค‡ๆ•ฐใฎ่ชžใ‚’็ต„ใฟๅˆใ‚ใ›ใ€ๆ„ๅ‘ณใŒ้€šใ‚‹ๆ–‡็ซ ใจใ—ใฆไฝœๆˆใ—ใฆใใ ใ•ใ„ใ€‚
ใƒปใŠ้กŒใฎๅ˜่ชžใ‚’ไฝฟ็”จใ—ใŸๅ›žๆ–‡ใ‚’ไฝœๆˆใ—ใฆใใ ใ•ใ„ใ€‚ ไพ‹ใˆใฐใ€Œใ‚ขใƒชใ€ใŒใŠ้กŒใฎๅ˜่ชžใชใ‚‰ใ€Œใ‚ขใƒชๆŠฑใใƒ€ใƒชใ‚ขใ€ใฏOKใงใ™ใ€‚
ไปฅไธŠใฎใƒซใƒผใƒซใซๅŸบใฅใ„ใฆใ€็‹ฌๅ‰ต็š„ใชๅ›žๆ–‡ใ‚’ใ”ๆๆกˆใใ ใ•ใ„ใ€‚
ใ€ใŠ้กŒใฎๅ˜่ชžใ€‘
"""
def create_kaibun_json(csv_file, json_file):
data = []
with open(csv_file, 'r', encoding='utf-8') as file:
reader = csv.reader(file)
next(reader) # ใƒ˜ใƒƒใƒ€ใƒผ่กŒใ‚’ใ‚นใ‚ญใƒƒใƒ—
for row in reader:
odai = row[0]
original_text = row[1]
reading = row[2]
json_data = {
"prompt": [
{"role": "user", "content": RULE_PROMPT + odai},
],
"answer": f"{original_text}({reading})"
}
data.append(json_data)
with open(json_file, 'w', encoding='utf-8') as file:
json.dump(data, file, ensure_ascii=False)
create_kaibun_json('input.csv', 'data/train.json')