| language: | |
| - zh | |
| license: apache-2.0 | |
| tags: | |
| - qwen | |
| - distilled | |
| - nlp | |
| - chinese | |
| # 中医正理 - 蒸馏后的Qwen模型 | |
| 这是一个蒸馏后的Qwen模型，专注于中医领域知识。 | |
| ## 模型详情 | |
| 这个模型是通过知识蒸馏从Qwen模型得到的，checkpoint为1792步。 | |
| ## 使用方法 | |
| ```python | |
| from transformers import AutoTokenizer, AutoModelForCausalLM | |
| tokenizer = AutoTokenizer.from_pretrained("yyxa9/zhongyizhengliu", trust_remote_code=True) | |
| model = AutoModelForCausalLM.from_pretrained("yyxa9/zhongyizhengliu") | |
| # 生成文本 | |
| inputs = tokenizer("请介绍一下中医的基本理论", return_tensors="pt") | |
| outputs = model.generate(**inputs, max_length=200) | |
| print(tokenizer.decode(outputs[0], skip_special_tokens=True)) | |
| ``` | |