Upload 2 files

app.py

@@ -65,7 +65,10 @@ def generar_respuesta(pregunta):
         ).to("cpu")
         
         with torch.no_grad():
-            outputs = model.generate(**inputs, max_length=100)  # Reducir max_length para mayor velocidad
+            outputs = model.generate(
+                **inputs,
+                max_new_tokens=100  # Generar hasta 100 tokens adicionales
+            )
         
         return tokenizer.decode(outputs[0], skip_special_tokens=True)