File size: 1,210 Bytes
381b946
 
99853ba
 
 
3e828f1
99853ba
9a23352
0a2eadd
 
99853ba
381b946
0a2eadd
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
---
license: mit
widget:
  - text: '[FIRST] В чем смысл жизни? [SECOND]'
    example_title: first_example
  - text: '[FIRST] Как твои дела? [SECOND]'
    example_title: second_example
pipeline_tag: text-generation
language:
- ru

---
Модель русскозычного чат бота, работающая в режиме чит-чат (без контекста предыдущих сообщений)

Пример работы с моделью:
```python
import torch
from transformers import AutoTokenizer, AutoModelWithLMHead
tokenizer = AutoTokenizer.from_pretrained('SiberiaSoft/ruGPT3_medium_chitchat')
model = AutoModelWithLMHead.from_pretrained('SiberiaSoft/ruGPT3_medium_chitchat')
inputs = tokenizer('[FIRST] Привет [SECOND]', return_tensors='pt')
generated_token_ids = model.generate(
    **inputs,
    top_k=10,
    top_p=0.95,
    num_beams=3,
    num_return_sequences=5,
    do_sample=True,
    no_repeat_ngram_size=2,
    temperature=1.0,
    repetition_penalty=1.2,
    length_penalty=1.0,
    eos_token_id=50257,
    max_length = 400
)
generation = [tokenizer.decode(sample_token_ids) for sample_token_ids in generated_token_ids]
print(generation)
```