3B/README.md

AnySecret Assistant - Llama-3.2-3B Model

Fine-tuned Llama-3.2-3B model for AnySecret configuration assistance.

Usage

from peft import AutoPeftModelForCausalLM
from transformers import AutoTokenizer

model = AutoPeftModelForCausalLM.from_pretrained("anysecret-io/anysecret-assistant", subfolder="3B")
tokenizer = AutoTokenizer.from_pretrained("anysecret-io/anysecret-assistant", subfolder="3B")