Model Details
Model Description
Asagi-2BのGGUF・量子化版です。
imatrixのデータはTFMC/imatrix-dataset-for-japanese-llmを使用しました。
GGUF変換の手順はこちらのブログ記事を参照して下さい(Ollamaでの利用方法も記載)。
- Downloads last month
- 124
Hardware compatibility
Log In
to view the estimation
3-bit
4-bit
6-bit
16-bit
Model tree for aipib/Asagi-vlm-gguf
Base model
llm-jp/llm-jp-3-1.8b-instruct