File size: 1,626 Bytes
8640452 1d54259 8640452 1d54259 7275230 1d54259 7275230 1d54259 7275230 06fab6d 1d54259 7275230 1d54259 7275230 3bf7b8b a070d7f 3bf7b8b |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 |
---
license: apache-2.0
language:
- es
---
# Introducción al Chatbot con Fine-Tuning para Consultas de SQL
El presente proyecto introduce un chatbot impulsado por técnicas de procesamiento de lenguaje natural (NLP) y fine-tuning,
diseñado específicamente para asistir en consultas de bases de datos utilizando el lenguaje de consulta estructurado (SQL).
## Detalles del modelo
### Descripcion
En este proyecto se busco hacer fine-tuning a 2 modelos diferentes:
- Mistral 7B
- Code Llama
Para ver cual arrojaba mejores resultados como base
Esto con el fin de crear un modelo el cual una persona sin ningun conocimiento en base de datos pueda hacer consultas a una base de datos y que esta responda
con el dato a pedir
## Uso
Aqui se muestra un link al github con los los notebooks de entreamiento de cada modelo
Primeramente se hizo un fine-tuning al modelo Code Llama para ver los resultados que nos daria
- [CodeLlama](https://github.com/Asis41/LLM_SQL_BaseDatosEspanol/blob/main/sql-consulta-escuela.ipynb)
Como segundo modelo se utilizo Mistral7b este se hizo un fine-tuning con el modelo quantizado a 4bits para que pueda ser ejectuado en una mayor cantidad de equipos
- [Mistral](https://github.com/Asis41/LLM_SQL_BaseDatosEspanol/blob/main/trainer-llm-detect-ai-comp-mistral-7b%20(1).ipynb)
#### Restulados
Todo esto con el fin de poder ver cual modelo da mejores rstulados para ver cual hacia un mejor ajuste pese a la poca cantidad de datos que se esperan aumentar
en un futuro
|