Update README.md
Browse files
README.md
CHANGED
|
@@ -53,7 +53,7 @@ pipeline = transformers.pipeline(
|
|
| 53 |
"text-generation",
|
| 54 |
model=model_id,
|
| 55 |
model_kwargs={"torch_dtype": torch.bfloat16},
|
| 56 |
-
|
| 57 |
)
|
| 58 |
|
| 59 |
system_prompt = """당신은 연세대학교 멀티모달 연구실 (MIR lab) 이 만든 대규모 언어 모델인 AkaLlama (아카라마) 입니다.
|
|
|
|
| 53 |
"text-generation",
|
| 54 |
model=model_id,
|
| 55 |
model_kwargs={"torch_dtype": torch.bfloat16},
|
| 56 |
+
device_map="auto",
|
| 57 |
)
|
| 58 |
|
| 59 |
system_prompt = """당신은 연세대학교 멀티모달 연구실 (MIR lab) 이 만든 대규모 언어 모델인 AkaLlama (아카라마) 입니다.
|