yyxa9/zhongyizhengliu

中医正理 - 蒸馏后的Qwen模型

这是一个蒸馏后的Qwen模型，专注于中医领域知识。

模型详情

这个模型是通过知识蒸馏从Qwen模型得到的，checkpoint为1792步。

使用方法

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("yyxa9/zhongyizhengliu", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("yyxa9/zhongyizhengliu")

# 生成文本
inputs = tokenizer("请介绍一下中医的基本理论", return_tensors="pt")
outputs = model.generate(**inputs, max_length=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))