Create main.py

main.py

@@ -0,0 +1,33 @@
+import gradio as gr
+from transformers import AutoModelForCausalLM, AutoTokenizer
+import torch
+
+# Charger le modèle
+model_name = "mistralai/Mistral-7B-Instruct-v0.2"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(
+    model_name,
+    torch_dtype=torch.float16,
+    device_map="auto"
+)
+
+# Prompt système pour personnaliser Aria
+system_prompt = """Tu es Aria, une IA bienveillante et polie qui répond de façon concise et claire."""
+
+def chat(message, history=[]):
+    prompt = system_prompt + "\n" + "\n".join([f"Utilisateur: {m[0]}\nAria: {m[1]}" for m in history]) + f"\nUtilisateur: {message}\nAria:"
+    inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
+    outputs = model.generate(**inputs, max_new_tokens=200)
+    reply = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    # Récupérer uniquement la réponse d'Aria
+    reply = reply.split("Aria:")[-1].strip()
+    history.append((message, reply))
+    return reply, history
+
+# Interface Gradio
+with gr.Blocks() as demo:
+    chatbot = gr.Chatbot()
+    msg = gr.Textbox(placeholder="Écris un message...")
+    msg.submit(chat, [msg, chatbot], [chatbot, chatbot])
+
+demo.launch()