|
from huggingface_hub import InferenceClient |
|
client = InferenceClient( |
|
"ecastera/eva-mistral-catmacaroni-7b-spanish" |
|
) |
|
generate_kwargs = dict( |
|
temperature=0.1, |
|
max_new_tokens=256, |
|
top_p=0.95, |
|
repetition_penalty=1.1, |
|
do_sample=True, |
|
seed=42, |
|
) |
|
|
|
|
|
prompt2 = """[INST] Para esta frase "Que logros ha conseguido Ancera en 2024" extrae las palabras clave relacionadas |
|
con la asociación Ancera, que son esenciales para realizar búsquedas efectivas en la |
|
base de datos de Ancera. Concéntrate en los siguientes elementos como palabras clave: |
|
cargos dentro de la asociación: Por ejemplo, presidenta, vicepresidente, etc. |
|
Conceptos clave o áreas de interés relacionadas con Ancera: Por ejemplo, objetivos, ventajas, junta directiva, etc. |
|
Referencias temporales específicas si están directamente relacionadas con los conceptos clave: Por ejemplo, el año en cuestión para los objetivos. |
|
Ignora detalles contextuales como acciones, descripciones extensas, y enfócate únicamente en las palabras clave mencionadas. Las palabras clave extraídas serán utilizadas para buscar información relevante en la base de datos de Ancera. |
|
|
|
Te doy dos ejemplos: |
|
|
|
Frase: "Haz un resumen en 100 palabras de cuáles deberían ser los objetivos de Ancera para 2024" |
|
Respuesta: "objetivos, Ancera, 2024" |
|
|
|
Frase: "Haz un resumen en 50 palabras de las ventajas de ser miembro de Ancera" |
|
Respuesta: "ventaja, miembro" |
|
|
|
Haz lo mismo para la frase que te he dicho y sólo muestra las palabras clave no des detalles o explicaciones extra, escribe el resultado en el mismo formato que los dos ejemplos, no hagas listas, no escribas la frase, ciñete al formato de respesta [/INST]""" |
|
|
|
response = client.text_generation(prompt2, **generate_kwargs, stream=False, details=True, return_full_text=False) |
|
output = response.generated_text |
|
print(output) |
|
|
