# データセット整理計画 ## 目的 - カメラデバイスが逆だったエピソード 0〜9 を完全に削除。 - 残り (エピソード 10〜49) を 0〜39 にリネームして連番を維持。 - `meta/` 内の各種 JSONL / JSON を新しいインデックスと統計に合わせて更新。 ## 対象ファイル 1. `data/chunk-000/episode_000*.parquet` 2. `videos/chunk-000/observation.images.laptop/episode_000*.mp4` 3. `videos/chunk-000/observation.images.phone/episode_000*.mp4` 4. `meta/episodes.jsonl`, `meta/episodes_stats.jsonl`, `meta/info.json` ## 手順 1. **削除** `episode_000000` 〜 `episode_000009` の Parquet と二つの MP4 を削除。 2. **リネーム** `episode_000010` → `episode_000000`, `episode_000011` → `episode_000001`, … `episode_000049` → `episode_000039` となるよう一括リネーム。 3. **メタデータ更新** - `episodes.jsonl` : 先頭 10 行を捨て、残り 40 行の `episode_index` を −10 した新ファイルを書き出し。 - `episodes_stats.jsonl` : 各行の `episode_index` を −10。`index` など累積欄はそのまま (フレーム総数がズレても当面問題なし)。 - `info.json` : - `total_episodes` → 40 - `total_videos` → 80 - `splits.train` → "0:40" - `total_frames` → `episodes.jsonl` の `length` 合計値 (後述スクリプトで再計算) 4. **自動スクリプト** `scripts/cleanup_reindex.py` を作成し、上記 1〜3 を自動で実行出来るようにする。 5. **実行方法** ```bash python scripts/cleanup_reindex.py ``` ## スクリプト概要 - `glob` と `Path.rename` でファイル名を変換。 - `json`, `jsonlines` パッケージでメタデータを読み書き。 - ログを出力して安全性を確保。 ## 検証 - スクリプト完了後、以下を確認。 1. `data/chunk-000/` と 2 つの videos フォルダに *episode_000040* 以降のファイルが無いこと。 2. `meta/episodes.jsonl` の最終行が `episode_index": 39`。 3. `meta/info.json` の `total_episodes` が 40。 ---