metadata
license: apache-2.0
language:
- es
Dataset: Borges en texto plano
El objetivo de este repositorio es construir un dataset del gran autor argentino que pueda usarse para el entrenamiento de modelos de lenguaje.
Inicialmente partí de libros en formato EPUB y únicamente en español
Carpetas
Inicialmente planteo tres carpetas
Epub
Libros en este formato
Epub_a_txt
Libros convertidos con el sencillo script disponible en
https://github.com/lucasbiagettia/epub2txt
txt_limpios
A mano he eliminado referencias editoriales, biograficas, y a otros recursos. El criterio es sumamente objetable.
Próximos pasos
Establecer un criterio para "limpiar" los txt e intentar automatizarlo. Seria conveniente evaluar si tiene sentido etiquetar cada libro y dentro del mismo cada cuento, y si tiene sentido etiquetar sus textos por genero.