2ba commited on
Commit
4ee8393
·
verified ·
1 Parent(s): 7dddbf7

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -5,8 +5,8 @@ from huggingface_hub import hf_hub_download
5
  from llama_cpp import Llama
6
 
7
  # می‌تونی بعداً این دو تا رو عوض کنی تا مدل دیگه‌ای رو تست کنی:
8
- REPO_ID = os.getenv("GGUF_REPO_ID", "TheBloke/TinyLlama-1.1B-Chat-v1.0-GGUF")
9
- FILENAME = os.getenv("GGUF_FILENAME", "tinyllama-1.1b-chat-v1.0.Q4_K_M.gguf")
10
 
11
  @lru_cache()
12
  def load_llm():
 
5
  from llama_cpp import Llama
6
 
7
  # می‌تونی بعداً این دو تا رو عوض کنی تا مدل دیگه‌ای رو تست کنی:
8
+ REPO_ID = "bartowski/SmolLM2-135M-Instruct-GGUF"
9
+ FILENAME = "SmolLM2-135M-Instruct-Q4_K_M.gguf"
10
 
11
  @lru_cache()
12
  def load_llm():