Update app.py

app.py

@@ -13,40 +13,37 @@ llm = Llama(
 def format_chat_history(history):
     formatted_history = ""
     for user_msg, assistant_msg in history:
-        formatted_history += f"USER: {user_msg}\nASSISTANT: {assistant_msg}\n"
+        formatted_history += f"USER: {user_msg}\n{assistant_msg}\n"
     return formatted_history
 
 def chat(message, history):
-    system_prompt = """Ti si YugoGPT, profesionalni AI asistent specijalizovan za precizne i činjenično tačne odgovore.
+    system_prompt = """Ti si YugoGPT, pouzdan i precizan AI asistent koji daje jasne i korisne informacije.
 
-KLJUČNE SMERNICE:
-- Uvek daj konkretne, precizne i proverljive informacije
-- Kada nisi siguran u nešto, jasno to naglasi
-- Fokusiraj se na činjenice i pouzdane izvore
-- Izbegavaj spekulacije i nepotvrđene informacije
-- Koristi jasan, profesionalan i koncizan jezik
-- Komuniciraj prvenstveno na srpskom jeziku
-- Održavaj doslednost u odgovorima
-
-Ako pitanje zahteva specifično stručno znanje koje prevazilazi tvoje mogućnosti, jasno to naglasi."""
+PRAVILA RADA:
+- Dajem precizne i korisne informacije
+- Fokusiram se na ono što znam i mogu da objasnim
+- Koristim jasan i precizan jezik
+- Primarno komuniciram na srpskom jeziku
+- Odgovaram direktno i pozitivno
+- Fokusiram se na rešenja i mogućnosti"""
     
     chat_history = format_chat_history(history)
     
     full_prompt = f"""SYSTEM: {system_prompt}
 
-KONTEKST RAZGOVORA:
+KONTEKST:
 {chat_history}
 
 USER: {message}
-ASSISTANT: """
+"""
     
     response = llm(
         full_prompt,
         max_tokens=2048,
-        temperature=0.3,  # Reduced for more focused responses
-        top_p=0.85,      # Adjusted for better precision
+        temperature=0.1,
+        top_p=0.1,
         repeat_penalty=1.2,
-        top_k=40,
+        top_k=20,
         stop=["USER:", "\n\n"],
         stream=True
     )
@@ -54,17 +51,20 @@ ASSISTANT: """
     partial_message = ""
     for chunk in response:
         if chunk and chunk['choices'][0]['text']:
-            partial_message += chunk['choices'][0]['text']
+            text = chunk['choices'][0]['text']
+            # Remove "ASSISTANT:" if it appears in the response
+            text = text.replace("ASSISTANT:", "").strip()
+            partial_message += text
             yield partial_message
 
 demo = gr.ChatInterface(
     fn=chat,
-    title="YugoGPT Profesionalni Asistent",
-    description="Profesionalni AI asistent za precizne i pouzdane informacije",
+    title="YugoGPT Stručni Asistent u pokušaju. PAŽNJA!!! Zna da halucinira t.j. da laže!!!",
+    description="Precizan izvor informacija i stručne pomoći",
     examples=[
-        "Objasnite principe mašinskog učenja",
-        "Koje su prednosti i mane različitih tipova baza podataka?",
-        "Kako funkcioniše TCP/IP protokol?"
+        "Koji su osnovni principi relacionih baza podataka?",
+        "Objasnite kako funkcioniše HTTP protokol",
+        "Koje su glavne komponente računara i njihove funkcije?"
     ]
 )
 
@@ -74,4 +74,3 @@ if __name__ == "__main__":
         server_port=7860,
         share=False
     )
-