MisterAI commited on
Commit
a8bc5c3
·
verified ·
1 Parent(s): e634600

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +119 -0
app.py ADDED
@@ -0,0 +1,119 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ #https://huggingface.co/spaces/MisterAI/Try_Small_Models02
2
+ #TSMS_app.py_V09
3
+ #Add SystemInfo to complete requirements.txt
4
+ #Change Interface
5
+
6
+
7
+
8
+ import subprocess
9
+ import sys, platform
10
+ from importlib import metadata as md
11
+
12
+ #SystemInfo
13
+ print("Python:", platform.python_version(), sys.implementation.name)
14
+ print("OS:", platform.uname())
15
+ print("\n".join(sorted(f"{d.metadata['Name']}=={d.version}" for d in md.distributions())))
16
+
17
+
18
+ # Import des bibliothèques nécessaires
19
+ import gradio as gr
20
+ from transformers import AutoTokenizer, AutoModelForCausalLM
21
+ import requests
22
+ import torch
23
+
24
+ # Fonction pour charger le modèle et le tokenizer
25
+ def load_model(model_name):
26
+ """Charge le modèle et le tokenizer"""
27
+ model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True)
28
+ tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
29
+ return model, tokenizer
30
+
31
+ # Fonction pour générer du texte en utilisant le modèle
32
+ def generate_text(model, tokenizer, input_text, max_length, temperature):
33
+ """Génère du texte en utilisant le modèle"""
34
+ inputs = tokenizer(input_text, return_tensors="pt")
35
+ output = model.generate(**inputs, max_length=max_length, temperature=temperature)
36
+ return tokenizer.decode(output[0], skip_special_tokens=True)
37
+
38
+ # Fonction principale pour générer le texte
39
+ def main(input_text, max_length, temperature, model_name):
40
+ """Fonction principale pour générer le texte"""
41
+ global model, tokenizer
42
+ if model is None or tokenizer is None:
43
+ raise Exception("Modèle non chargé. Veuillez charger un modèle avant de générer du texte.")
44
+ generated_text = generate_text(model, tokenizer, input_text, max_length, temperature)
45
+ return generated_text
46
+
47
+ # Variables globales pour stocker le modèle et le tokenizer
48
+ model = None
49
+ tokenizer = None
50
+
51
+ # Fonction pour charger le modèle lors du clic sur le bouton "Charger Le Modèle"
52
+ def load_model_button_clicked(model_name):
53
+ """Charge le modèle et le tokenizer lors du clic sur le bouton"""
54
+ global model, tokenizer
55
+ try:
56
+ model, tokenizer = load_model(model_name)
57
+ return f"Modèle {model_name} chargé avec succès"
58
+ except Exception as e:
59
+ return f"Erreur lors du chargement du modèle {model_name}: {e}"
60
+
61
+ #Fonction Pour Conserver un Historique
62
+ def append_history(history, message):
63
+ return f"{history}\n\n***\n{message}" if history else message
64
+
65
+ # Création de l'interface Gradio
66
+ demo = gr.Blocks()
67
+
68
+ with demo:
69
+ gr.Markdown("# Modèle de Langage")
70
+
71
+ with gr.Row():
72
+ with gr.Column():
73
+ # Textbox pour entrer le nom du modèle
74
+ model_name_textbox = gr.Textbox(label="Nom du modèle", placeholder="Depot/NomModele Exemple kurakurai/Luth-LFM2-1.2B", interactive=True)
75
+ with gr.Column():
76
+ # Bouton pour charger le modèle sélectionné
77
+ LoadModel_button = gr.Button("Charger Le Modèle")
78
+ with gr.Column():
79
+ # Textbox pour Logs et Historique
80
+ history = gr.Textbox(label="Historique", lines=5)
81
+
82
+ with gr.Row():
83
+ # Textbox pour entrer le texte d'entrée
84
+ input_text = gr.Textbox(label="Texte d'entrée")
85
+ with gr.Row():
86
+ # Sliders pour ajuster la longueur maximale et la température
87
+ max_length_slider = gr.Slider(50, 500, label="Longueur maximale", value=200)
88
+ temperature_slider = gr.Slider(0.1, 1.0, label="Température", value=0.7)
89
+
90
+ with gr.Row():
91
+ # Bouton pour soumettre le texte d'entrée
92
+ submit_button = gr.Button("Soumettre")
93
+
94
+ with gr.Row():
95
+ # Textbox pour afficher le texte généré
96
+ output_text = gr.Textbox(label="Texte généré")
97
+
98
+ # Ajout des interactions pour les boutons
99
+ # Lors du clic sur "Charger Le Modèle", appeler la fonction load_model_button_clicked
100
+ LoadModel_button.click(
101
+ load_model_button_clicked,
102
+ inputs=[model_name_textbox, history]
103
+ outputs=[history]
104
+ )
105
+
106
+ # Lors du clic sur "Soumettre", appeler la fonction main
107
+ submit_button.click(
108
+ main,
109
+ inputs=[input_text, max_length_slider, temperature_slider, model_name_textbox, history],
110
+ outputs=[output_text, history]
111
+ queue=False
112
+ )
113
+
114
+ # Lancer l'application Gradio
115
+ if __name__ == "__main__":
116
+ demo.launch()
117
+
118
+
119
+