|
--- |
|
library_name: transformers |
|
license: apache-2.0 |
|
language: |
|
- ja |
|
base_model: |
|
- mistralai/Mistral-7B-v0.1 |
|
pipeline_tag: text-generation |
|
--- |
|
|
|
## 概要 |
|
|
|
vecteusは、高性能な日本語大規模言語モデルです。小説のドメインに特化し、かつ自然な日本語の生成や理解において優れた性能を発揮します。 |
|
|
|
当リポジトリは、vecteus v1をベースとした、フィルター(検閲機能)を削除したabliterated版を提供しています。元モデルに存在した出力に対する制約を取り払うことで、より自由度の高いテキスト生成を可能にしています。 |
|
ただし、この変更により、生成されるテキストの内容については一切の責任を負いません。 |
|
|
|
|
|
* **高度な日本語自然言語理解:** vecteusは、日本語の文法や意味構造を深く理解し、複雑な日本語の文章を生成することができます。 |
|
* **多様なタスクへの対応:** テキスト生成、質問応答、要約、翻訳など、幅広い自然言語処理タスクに対応しています。 |
|
* **検閲フィルターの削除 (abliterated-vecteus):** 初代vecteusに存在した出力フィルターを削除し、より自由なテキスト生成を可能にしました。 |
|
|
|
## 参考 |
|
|
|
https://huggingface.co/blog/mlabonne/abliteration |
|
|
|
https://github.com/FailSpy/abliterator |
|
|
|
https://www.lesswrong.com/posts/jGuXSZgv6qfdhMCuJ/refusal-in-llms-is-mediated-by-a-single-direction |