import gradio as gr

with gr.Blocks(fill_height=True) as demo:
    with gr.Sidebar():
        gr.Markdown("# Inference Provider")
        gr.Markdown(
            "Este Space muestra el modelo Qwen/QwQ-32B, servido por la API hyperbolic. "
            "Inicia sesión con tu cuenta de Hugging Face para usar esta API."
        )
        button = gr.LoginButton("Iniciar sesión")
    
    # Cargamos el modelo usando el token proporcionado por el botón
    model = gr.load("models/Qwen/QwQ-32B", accept_token=button, provider="hyperbolic")
    
    # Definimos la función que llama a la API del modelo
    def call_inference(prompt: str) -> str:
        respuesta = model(prompt)
        return respuesta

    # Creamos la interfaz para enviar un prompt y mostrar la respuesta
    with gr.Row():
        input_text = gr.Textbox(label="Ingresa tu prompt", placeholder="Escribe aquí...")
        output_text = gr.Textbox(label="Respuesta")
    
    # Botón que ejecuta la función de inferencia
    infer_button = gr.Button("Generar")
    infer_button.click(fn=call_inference, inputs=input_text, outputs=output_text)

demo.launch()