Mis mezclas [Llama 3.2 - 1B]
Collection
Mezclas de los mejores modelos Llama3.2-1B existentes hasta el momento.
•
12 items
•
Updated
Agarré todas mis mezclas y la metà en una mezcla definitiva.
Esta configuración YAML fue usada para producir este modelo:
merge_method: model_stock
models:
- model: Novaciano/UNCENSORED-Sigil-of-Satan-3.2-1B
parameters:
weight: 1.0
- model: Novaciano/HarmfulProject-3.2-1B
parameters:
weight: 1.0
- model: Novaciano/BLAST_PROCESSING-3.2-1B
parameters:
weight: 1.0
base_model: Novaciano/La_Mejor_Mezcla-3.2-1B
dtype: bfloat16
out_dtype: bfloat16
parameters:
int8_mask: true
normalize: true
rescale: false
chat_template: auto
tokenizer:
source: union
Detailed results can be found here! Summarized results can be found here!
Metric | Value (%) |
---|---|
Average | 14.17 |
IFEval (0-Shot) | 56.13 |
BBH (3-Shot) | 9.49 |
MATH Lvl 5 (4-Shot) | 7.33 |
GPQA (0-shot) | 0.78 |
MuSR (0-shot) | 1.21 |
MMLU-PRO (5-shot) | 10.10 |