Datasets:
File size: 2,127 Bytes
edae4a1 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 |
# データセット整理計画
## 目的
- カメラデバイスが逆だったエピソード 0〜9 を完全に削除。
- 残り (エピソード 10〜49) を 0〜39 にリネームして連番を維持。
- `meta/` 内の各種 JSONL / JSON を新しいインデックスと統計に合わせて更新。
## 対象ファイル
1. `data/chunk-000/episode_000*.parquet`
2. `videos/chunk-000/observation.images.laptop/episode_000*.mp4`
3. `videos/chunk-000/observation.images.phone/episode_000*.mp4`
4. `meta/episodes.jsonl`, `meta/episodes_stats.jsonl`, `meta/info.json`
## 手順
1. **削除**
`episode_000000` 〜 `episode_000009` の Parquet と二つの MP4 を削除。
2. **リネーム**
`episode_000010` → `episode_000000`, `episode_000011` → `episode_000001`, … `episode_000049` → `episode_000039` となるよう一括リネーム。
3. **メタデータ更新**
- `episodes.jsonl` : 先頭 10 行を捨て、残り 40 行の `episode_index` を −10 した新ファイルを書き出し。
- `episodes_stats.jsonl` : 各行の `episode_index` を −10。`index` など累積欄はそのまま (フレーム総数がズレても当面問題なし)。
- `info.json` :
- `total_episodes` → 40
- `total_videos` → 80
- `splits.train` → "0:40"
- `total_frames` → `episodes.jsonl` の `length` 合計値 (後述スクリプトで再計算)
4. **自動スクリプト**
`scripts/cleanup_reindex.py` を作成し、上記 1〜3 を自動で実行出来るようにする。
5. **実行方法**
```bash
python scripts/cleanup_reindex.py
```
## スクリプト概要
- `glob` と `Path.rename` でファイル名を変換。
- `json`, `jsonlines` パッケージでメタデータを読み書き。
- ログを出力して安全性を確保。
## 検証
- スクリプト完了後、以下を確認。
1. `data/chunk-000/` と 2 つの videos フォルダに *episode_000040* 以降のファイルが無いこと。
2. `meta/episodes.jsonl` の最終行が `episode_index": 39`。
3. `meta/info.json` の `total_episodes` が 40。
--- |