chat_template будет?

#7
by Nessit - opened

привет! а вы сделаете чтобы chat_template работал из коробки? вот для примера такой код не работает input_text = tokenizer.apply_chat_template(input_history, tokenize=_F, add_generation_prompt=True), хотя с другими моделями нет проблем

Yandex org

Привет! У нас pretrain модель, для нее не существует чат темплейта и она не умеет в инструкции

Спасибо, я так и подумал, но на всякий случай спросил. Но тогда другой вопрос. Скажите, а инстракт будет? и когда?

Скажите, а инстракт будет? и когда?

Мы думаем над этим. Хотим оценить интерес сообщества к такой модели, выявить потребности.
Подписывайтесь на нас на HF и в https://t.me/stuffyNLP и узнаете первым новости о следующих опенсорсах :)

@vorobyov01 я думаю, очень востребованное! Но... зависит от злости алаймента :)
Спасибо за модель!

vorobyov01 changed discussion status to closed

Sign up or log in to comment