Update app.py
Browse files
app.py
CHANGED
@@ -11,17 +11,17 @@ quantization_config = BitsAndBytesConfig(
|
|
11 |
bnb_4bit_use_double_quant=True,
|
12 |
bnb_4bit_quant_type="nf4")
|
13 |
|
14 |
-
|
15 |
temperature=0.1,
|
16 |
max_new_tokens=256,
|
17 |
-
top_p=
|
18 |
-
repetition_penalty=
|
19 |
do_sample=True,
|
20 |
seed=42,
|
21 |
)
|
22 |
|
23 |
|
24 |
-
prompt2 =
|
25 |
con la asociaci贸n Ancera, que son esenciales para realizar b煤squedas efectivas en la
|
26 |
base de datos de Ancera. Conc茅ntrate en los siguientes elementos como palabras clave:
|
27 |
cargos dentro de la asociaci贸n: Por ejemplo, presidenta, vicepresidente, etc.
|
|
|
11 |
bnb_4bit_use_double_quant=True,
|
12 |
bnb_4bit_quant_type="nf4")
|
13 |
|
14 |
+
generate_kwargs = dict(
|
15 |
temperature=0.1,
|
16 |
max_new_tokens=256,
|
17 |
+
top_p=0.95,
|
18 |
+
repetition_penalty=1.1,
|
19 |
do_sample=True,
|
20 |
seed=42,
|
21 |
)
|
22 |
|
23 |
|
24 |
+
prompt2 = """[INST] Para esta frase "Que logros ha conseguido Ancera en 2024" extrae las palabras clave relacionadas
|
25 |
con la asociaci贸n Ancera, que son esenciales para realizar b煤squedas efectivas en la
|
26 |
base de datos de Ancera. Conc茅ntrate en los siguientes elementos como palabras clave:
|
27 |
cargos dentro de la asociaci贸n: Por ejemplo, presidenta, vicepresidente, etc.
|