Update README.md

README.md

@@ -34,16 +34,31 @@ from transformers import AutoTokenizer, AutoModelForCausalLM
 tokenizer = AutoTokenizer.from_pretrained("bysq/autism-assistant-qwen2")
 model = AutoModelForCausalLM.from_pretrained("bysq/autism-assistant-qwen2")
 
+
 # 使用示例
-prompt = ```你是一个专门帮助理解自闭症患者表达的AI助手。
-原始表达："{original_text}"
-自闭症患者的表达："{autism_expression}"
+prompt = """你是一个专门帮助理解自闭症患者表达的AI助手。
+原始表达："可以把东西给我？"
+自闭症患者的表达："不你"
 
 请分析并回答：
-- 情感分析：```
+- 情感分析："""
 
+# 编码输入并移到正确设备
 inputs = tokenizer(prompt, return_tensors="pt")
-outputs = model.generate(**inputs, max_new_tokens=200, temperature=0.7)
+
+# 检查模型在哪个设备上，并将输入移到同一设备
+device = next(model.parameters()).device
+inputs = {k: v.to(device) for k, v in inputs.items()}
+
+# 生成回答
+outputs = model.generate(
+    **inputs, 
+    max_new_tokens=200, 
+    do_sample=True,           # 需要启用采样才能使用temperature
+    temperature=0.7,
+    pad_token_id=tokenizer.pad_token_id
+)
+
 response = tokenizer.decode(outputs[0], skip_special_tokens=True)
 print(response)
 ```