TinyBoludo-1b-GGUF / README.md
Novaciano's picture
Update README.md
97001a1 verified
metadata
license: apache-2.0
datasets:
  - cerebras/SlimPajama-627B
  - bigcode/starcoderdata
  - teknium/openhermes
  - jmibarlucea/mistral-argentina-reddit
language:
  - en
  - es
base_model: cognitivecomputations/TinyDolphin-2.8.2-1.1b-laser
tags:
  - llama-cpp
  - TinyLlama
  - 1b
  - 4-bit
  - Argentina

Novaciano/TinyBoludo 1b 馃嚘馃嚪

Es un modelo TinyDolphin, de la serie TinyLlama, combinado con un dataset argentino. Deber铆a en teor铆a responder como argentino promedio. Quiero creer que no tiene censura, pero no garantizo nada.

Prop贸sito

La idea de este modelo surgi贸 a raiz de la necesidad de tener un peque帽o modelo con identidad nacional capaz de funcionar hasta en una tostadora debido al estado emergente del pa铆s donde pocos pueden darse el lujo de contar con un celular de mas de 3 Gb de RAM.


KoboldCpp

IMG-20250201-165549

Inferencia

Context Size: A elecci贸n, cuanto mas mejor.
Max Output: A elecci贸n, es la cantidad de texto.
Temp: 0.1 | Rep. Pen: 1.07 | Top. P: 0.92
Top. K: 100 | Top. A: 0.96 | Typ: 1
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0
Seed: -1 | Rp. Range: 360 | Rp. Slope: 0.7

Etiqueta de Instrucci贸n

  • Preset: Alpaca

  • Prompt de Sistema: Eres TinyBoludo, una IA avanzada que responde como argentino.

  • Usuario: \n### Instruction:\n

  • Asistente: \n### Response:\n

Consejos

Recomiendo no sacarlo del Modo Instrucci贸n; a煤n a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversaci贸n, lo mejor es activar la pesta帽a "Inject ChatNames".