Update app.py

app.py

@@ -13,61 +13,58 @@ llm = Llama(
 def format_chat_history(history):
     formatted_history = ""
     for user_msg, assistant_msg in history:
-        formatted_history += f"Q: {user_msg}\nA: {assistant_msg}\n"
+        formatted_history += f"USER: {user_msg}\n{assistant_msg}\n"
     return formatted_history
 
-def process_chunk(text):
-    # Remove any special tokens
-    text = text.replace("ASSISTANT:", "").replace("A:", "")
-    
-    # Add space after each character if there isn't one already
-    processed_text = ""
-    for i, char in enumerate(text):
-        processed_text += char
-        if i < len(text) - 1 and not text[i+1].isspace():
-            processed_text += " "
-    
-    return processed_text.strip()
-
 def chat(message, history):
-    system_prompt = """Ti si YugoGPT.
-Odgovaraj direktno i precizno na srpskom jeziku."""
+    system_prompt = """Ti si YugoGPT, pouzdan i precizan AI asistent koji daje jasne i korisne informacije.
+
+PRAVILA RADA:
+- Dajem precizne i korisne informacije
+- Fokusiram se na ono što znam i mogu da objasnim
+- Koristim jasan i precizan jezik
+- Primarno komuniciram na srpskom jeziku
+- Odgovaram direktno i pozitivno
+- Fokusiram se na rešenja i mogućnosti"""
     
     chat_history = format_chat_history(history)
     
     full_prompt = f"""SYSTEM: {system_prompt}
 
+KONTEKST:
 {chat_history}
 
-Q: {message}
-A:"""
+USER: {message}
+"""
     
     response = llm(
         full_prompt,
         max_tokens=2048,
-        temperature=0.1,
+        temperature=0.7,
         top_p=0.1,
         repeat_penalty=1.2,
         top_k=20,
-        stop=["Q:", "\n\n"],
+        stop=["USER:", "\n\n"],
         stream=True
     )
     
     partial_message = ""
     for chunk in response:
         if chunk and chunk['choices'][0]['text']:
-            text = process_chunk(chunk['choices'][0]['text'])
+            text = chunk['choices'][0]['text']
+            # Remove "ASSISTANT:" if it appears in the response
+            text = text.replace("ASSISTANT:", "").strip()
             partial_message += text
             yield partial_message
 
 demo = gr.ChatInterface(
     fn=chat,
-    title="YugoGPT",
-    description="Stručni asistent",
+    title="YugoGPT Stručni Asistent",
+    description="Precizan izvor informacija i stručne pomoći. PAŽNJA, ZNA DA LAŽE!!!",
     examples=[
-        "Objasni kako radi HTTP protokol",
-        "Šta je SQL?",
-        "Kako radi TCP/IP?"
+        "Koji su osnovni principi relacionih baza podataka?",
+        "Objasnite kako funkcioniše HTTP protokol",
+        "Koje su glavne komponente računara i njihove funkcije?"
     ]
 )
 
@@ -78,4 +75,3 @@ if __name__ == "__main__":
         share=False
     )
 
-