Update app.py

app.py

@@ -13,20 +13,34 @@ llm = Llama(
 def format_chat_history(history):
     formatted_history = ""
     for user_msg, assistant_msg in history:
-        formatted_history += f"USER: {user_msg}\n{assistant_msg}\n"
+        formatted_history += f"Pitanje: {user_msg}\nOdgovor: {assistant_msg}\n"
     return formatted_history
 
+def clean_text(text):
+    # Basic cleaning
+    text = text.replace("ASSISTANT:", "").strip()
+    
+    # Handle spaces after punctuation
+    punctuation_marks = ['.', ',', '!', '?', ':', ';']
+    for mark in punctuation_marks:
+        text = text.replace(mark, mark + ' ')
+    
+    # Normalize spaces
+    words = text.split()
+    text = ' '.join(words)
+    
+    return text
+
 def chat(message, history):
-    system_prompt = """Ti si YugoGPT, pouzdan i precizan AI asistent koji daje jasne i korisne informacije.
+    system_prompt = """Ti si YugoGPT, visoko precizan AI asistent.
 
-PRAVILA RADA:
-- Dajem precizne i korisne informacije
-- Odgovaram sa sigurnošću o temama koje poznajem
-- Koristim jasan i precizan jezik
-- Primarno komuniciram na srpskom jeziku
+OSNOVNI PRINCIPI:
+- Dajem konkretne i tačne informacije
+- Odgovaram samo o temama koje dobro poznajem
+- Koristim jasan i precizan srpski jezik
+- Fokusiram se na činjenice
 - Odgovaram direktno i pozitivno
-- Fokusiram se na rešenja i mogućnosti
-- Uvek koristim pravilnu interpunkciju i razmake između reči"""
+- Izbegavam nagađanja"""
     
     chat_history = format_chat_history(history)
     
@@ -35,8 +49,8 @@ PRAVILA RADA:
 KONTEKST:
 {chat_history}
 
-USER: {message}
-"""
+Pitanje: {message}
+Odgovor:"""
     
     response = llm(
         full_prompt,
@@ -45,31 +59,25 @@ USER: {message}
         top_p=0.1,
         repeat_penalty=1.2,
         top_k=20,
-        stop=["USER:", "\n\n"],
+        stop=["Pitanje:", "\n\n"],
         stream=True
     )
     
     partial_message = ""
     for chunk in response:
         if chunk and chunk['choices'][0]['text']:
-            text = chunk['choices'][0]['text']
-            # Clean up the text
-            text = text.replace("ASSISTANT:", "").strip()
-            # Ensure proper spacing after punctuation
-            text = text.replace(".", ". ").replace(",", ", ").replace("!", "! ").replace("?", "? ")
-            # Remove double spaces
-            text = " ".join(text.split())
-            partial_message += text
-            yield partial_message.strip()
+            text = clean_text(chunk['choices'][0]['text'])
+            partial_message = clean_text(partial_message + text)
+            yield partial_message
 
 demo = gr.ChatInterface(
     fn=chat,
     title="YugoGPT Stručni Asistent",
-    description="Precizan izvor informacija i stručne pomoći, PAŽNJA!!!  ZNA DA HALUCINIRA I ZATO PONEKAD LAŽE!!!",
+    description="Precizan izvor informacija. PAŽNJA!!! ZNA DA LAŽE!!!",
     examples=[
-        "Koji su osnovni principi relacionih baza podataka?",
-        "Objasnite kako funkcioniše HTTP protokol",
-        "Koje su glavne komponente računara i njihove funkcije?"
+        "Objasnite princip rada relacione baze podataka",
+        "Kako funkcioniše HTTP protokol?",
+        "Opišite osnovne komponente računara"
     ]
 )
 
@@ -79,3 +87,4 @@ if __name__ == "__main__":
         server_port=7860,
         share=False
     )
+