RyuBcn commited on
Commit
de59269
verified
1 Parent(s): 83401ba

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -4
app.py CHANGED
@@ -11,17 +11,17 @@ quantization_config = BitsAndBytesConfig(
11
  bnb_4bit_use_double_quant=True,
12
  bnb_4bit_quant_type="nf4")
13
 
14
- generate_kwargs = dict(
15
  temperature=0.1,
16
  max_new_tokens=256,
17
- top_p=top_p,
18
- repetition_penalty=repetition_penalty,
19
  do_sample=True,
20
  seed=42,
21
  )
22
 
23
 
24
- prompt2 = '[INST] Para esta frase "' + prompt + '" ' + """ extrae las palabras clave relacionadas
25
  con la asociaci贸n Ancera, que son esenciales para realizar b煤squedas efectivas en la
26
  base de datos de Ancera. Conc茅ntrate en los siguientes elementos como palabras clave:
27
  cargos dentro de la asociaci贸n: Por ejemplo, presidenta, vicepresidente, etc.
 
11
  bnb_4bit_use_double_quant=True,
12
  bnb_4bit_quant_type="nf4")
13
 
14
+ generate_kwargs = dict(
15
  temperature=0.1,
16
  max_new_tokens=256,
17
+ top_p=0.95,
18
+ repetition_penalty=1.1,
19
  do_sample=True,
20
  seed=42,
21
  )
22
 
23
 
24
+ prompt2 = """[INST] Para esta frase "Que logros ha conseguido Ancera en 2024" extrae las palabras clave relacionadas
25
  con la asociaci贸n Ancera, que son esenciales para realizar b煤squedas efectivas en la
26
  base de datos de Ancera. Conc茅ntrate en los siguientes elementos como palabras clave:
27
  cargos dentro de la asociaci贸n: Por ejemplo, presidenta, vicepresidente, etc.