Update app.py

app.py

@@ -17,7 +17,7 @@ This is a demo of [`silma-ai/SILMA-Kashif-2B-Instruct-v1.0`](https://huggingface
 
 MAX_MAX_NEW_TOKENS = 2048
 DEFAULT_MAX_NEW_TOKENS = 1024
-MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "10096"))
+MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "10000"))
 
 device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
 
@@ -28,7 +28,7 @@ model = AutoModelForCausalLM.from_pretrained(
     device_map="auto",
     torch_dtype=torch.bfloat16,
 )
-model.config.sliding_window = 4096
+model.config.sliding_window = 12288
 model.eval()
 
 
@@ -114,7 +114,15 @@ demo = gr.ChatInterface(
     stop_btn=None,
     examples=[
         ["Hello there! How are you doing?"],
-        ["Can you explain briefly to me what is the Python programming language?"],
+        [""""
+    أجب على السؤال بناءً على السياق أدناه 
+
+        السياق: تشمل الاتفاقيات رسوم حمل سنوية ثابت قدها 30 مليون جنيه إسترليني للقنوات نظراً لأن كلاً من مزوديها قادرين على تأمين دفعات إضافية إذا ما حققت هذه القنوات أهدافاً متعلقةً بالأداء. لا يوجد حالياً ما يشير إلى ما إذا كان الاتفاق الجديد يشمل محتوىً إضافياً كالفيديو عند الطلب والدقة العالية ، كذلك الذي سبق أن قدمته بي سكاي بي. وقد وافقت كل من بي سكاي بي و فيرجين ميديا على إنهاء الدعاوى القضائية بالمحكمة العليا ضد بعضهما بشأن معاليم الحمل التي تخص قنواتهما الأساسية. 
+
+        السؤال: ماسم الشركة التي وافقت على إنهاء دعواها القضائية ضد بي سكاي بي بالمحكمة العليا؟ 
+
+        الإجابة:
+"""],
     ],
     cache_examples=False,
     type="messages",