YongdongWang/llm-jp-3-13b-it_lora

アップロードされたモデル

• 開発者: YongdongWang
• ライセンス: apache-2.0
• ファインチューンド元モデル: llm-jp/llm-jp-3-13b

このLlamaモデルはUnslothとHuggingfaceのTRLライブラリーを使用して、2倍の速度でトレーニングされた。

---

インストールの努力

このモデルをHuggingfaceにアップロードするには、下記のような努力を行った。

1. ちゃんと動くローカル環境の構築

   • NVIDIAの4090グラボカードを使用し、Windows環境に対応するようPyTorchをローカルにインストールした。
   • Dockerを使用し、対応するPyTorchをインストールした。

2. WindowsでUbuntu環境を構築

   • Dockerを使用し、Windows上でUbuntu環境を構築した。
   • Docker環境のUbuntuでLoraプログラムを正常に実行できることを確認した。

3. Huggingfaceにアップロード

   • Loraプログラムを正常に実行した後、生成したモデルをHuggingfaceのリポジトリにアップロードした。

---