Add onnx example to readme

README.md

@@ -51,6 +51,22 @@ def generate_poetry(prompt, max_length=30):
 print(generate_poetry("شب آرام و خاموش"))
 ```
 
+You can also use optimum `onnxruntime` to use ONNX model checkpoint:
+
+```python
+from transformers import AutoTokenizer, pipeline
+from optimum.onnxruntime import ORTModelForCausalLM
+
+model = ORTModelForCausalLM.from_pretrained("rahiminia/manshoorai", use_cache=False, use_io_binding=False)
+tokenizer = AutoTokenizer.from_pretrained("rahiminia/manshoorai")
+
+onnx = pipeline("text-generation", model=model, tokenizer=tokenizer)
+
+prompt = 'در این شب سیاه'
+pred = onnx(prompt)
+print(pred[0]['generated_text'])
+```
+
 ## Training Details
 - **Tokenizer**: Tokenizer with Byte Pair Encoding (BPE) from [HooshvareLab/gpt2-fa](https://huggingface.co/HooshvareLab/gpt2-fa)
 - **Training**: Fine-tuned using PyTorch and the `transformers` library
@@ -72,6 +88,18 @@ print(generate_poetry("شب آرام و خاموش"))
     باران که می‌بارد با خود بگوید که دیگر چه شده بود؟ اگر آن جوان از پشت نرده‌ها به پایین میرفت؛
     ```
 
+**Prompt**: "در این شب سیاه"
+
+**Generated Text**:
+```
+در این شب سیاه
+چشم‌های سیاه اتاق‌ها
+همه دیده‌های من هستند
+از هر پلک چه می‌بینم. 
+و هر چهره روشن دیگر
+من را در سکوت خانه فرو برده
+```
+
 ## Limitations & Biases
 - This is a work in progress, with many improvements yet to be made.
 - The model may occasionally generate repetitive or incoherent lines.