app.py

from huggingface_hub import hf_hub_download
from llama_cpp import Llama

# تحميل الملف من مستودع Hugging Face الأصلي
file_path = hf_hub_download(
    repo_id="unsloth/gemma-3-1b-it-GGUF",
    filename="gemma-3-1b-it-IQ4_NL.gguf"
)

# تشغيل النموذج
llm = Llama(model_path=file_path)
response = llm("اكتب لي نص تجريبي")
print(response)