Clean up, moved prompt to textbox

app.py

@@ -2,28 +2,13 @@ import gradio as gr
 from huggingface_hub import login, InferenceClient
 import os
 from langchain_community.vectorstores import FAISS
-from langchain.embeddings.huggingface import HuggingFaceEmbeddings
+from langchain_community.embeddings import HuggingFaceEmbeddings
 
 HF_TOKEN = os.getenv("HUGGINGFACE_TOKEN")
 
 login(token=HF_TOKEN)
 client = InferenceClient(token=HF_TOKEN)
 
-system_message = """Tu es un assistant juridique spécialisé dans le Code de l'éducation français. 
-Ta mission est d'aider les utilisateurs à comprendre la législation en répondant à leurs questions.
-
-Voici comment tu dois procéder :
-
-1. **Analyse de la question:** Lis attentivement la question de l'utilisateur.
-2. **Identification des articles pertinents:** Examine les 10 articles de loi fournis et sélectionne ceux qui sont les plus pertinents pour répondre à la question.
-3. **Formulation de la réponse:** Rédige une réponse claire et concise en français, en utilisant les informations des articles sélectionnés. Cite explicitement les articles que tu utilises (par exemple, "Selon l'article L311-3...").
-4. **Structure de la réponse:** Si ta réponse s'appuie sur plusieurs articles, structure-la de manière logique, en séparant les informations provenant de chaque article.
-5. **Cas ambigus:** 
-   * Si la question est trop vague, demande des précisions à l'utilisateur.
-   * Si plusieurs articles pourraient s'appliquer, présente les différentes
-   interprétations possibles."""
-
-
 
 embeddings = HuggingFaceEmbeddings(model_name="OrdalieTech/Solon-embeddings-large-0.1")
 
@@ -45,7 +30,7 @@ Voici comment tu dois procéder :
 * Si plusieurs articles pourraient s'appliquer, présente les différentes interprétations possibles."""
 
 
-def query_rag(query, model):
+def query_rag(query, model, system_prompt):
     docs = db_code.similarity_search(query, 10)
 
     article_dict = {}
@@ -75,8 +60,8 @@ def create_context_response(response, article_dict):
 
     return response
 
-def chat_interface(query, model):
-    response, article_dict = query_rag(query, model)
+def chat_interface(query, model, system_prompt):
+    response, article_dict = query_rag(query, model, system_prompt)
     response_with_context = create_context_response(response, article_dict)
     return response_with_context
 
@@ -104,14 +89,16 @@ with gr.Blocks(title="Assistant Juridique pour le Code de l'éducation (Beta)")
             "NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO",
             "mistralai/Mixtral-8x22B-v0.1"
             ],
-        value="HuggingFaceH4/zephyr-7b-beta")
+        value="meta-llama/Meta-Llama-3-70B-Instruct")
 
     submit_button = gr.Button("Envoyer")
 
     response_box = gr.Markdown()
 
+    system_box = gr.Textbox(label="Invite systeme", value=system_prompt)
+
     submit_button.click(chat_interface, 
-                inputs=[query_box, model], 
+                inputs=[query_box, model, system_box], 
                 outputs=[response_box])
 
 demo.launch()