Spaces:
Running
on
Zero
Running
on
Zero
Update app.py
Browse files
app.py
CHANGED
@@ -16,7 +16,7 @@ parser = argparse.ArgumentParser()
|
|
16 |
parser.add_argument("--model-path", type=str, default="TheFinAI/FinLLaVA")
|
17 |
parser.add_argument("--device", type=str, default="cuda:0")
|
18 |
parser.add_argument("--conv-mode", type=str, default="llama_3")
|
19 |
-
parser.add_argument("--temperature", type=float, default=0)
|
20 |
parser.add_argument("--max-new-tokens", type=int, default=512)
|
21 |
parser.add_argument("--load-8bit", action="store_true")
|
22 |
parser.add_argument("--load-4bit", action="store_true")
|
|
|
16 |
parser.add_argument("--model-path", type=str, default="TheFinAI/FinLLaVA")
|
17 |
parser.add_argument("--device", type=str, default="cuda:0")
|
18 |
parser.add_argument("--conv-mode", type=str, default="llama_3")
|
19 |
+
parser.add_argument("--temperature", type=float, default=0.7)
|
20 |
parser.add_argument("--max-new-tokens", type=int, default=512)
|
21 |
parser.add_argument("--load-8bit", action="store_true")
|
22 |
parser.add_argument("--load-4bit", action="store_true")
|