metadata

language:
  - ru
license:
  - cc-by-sa-3.0
  - gfdl
size_categories:
  - 1M<n<10M
task_categories:
  - text-generation
task_ids:
  - language-modeling
  - masked-language-modeling

RuDataset - Русскоязычный датасет для обучения языковых моделей

Wikipedia RuDataset

Это подготовленная версия обширного русского датасета для тренировки LLM, предоставленного Wikimedia/Wikipedia. Специально для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM.

Описание структуры данных

Датасет хранится в формате Parquet и имеет следующую структуру:

Поле	Тип	Описание
num	int64	Уникальный номер записи
system	string	Системный промпт для модели
user	string	Запрос пользователя (вопрос/заголовок)
assistant	string	Ответ ассистента (текст/содержание)
u_tokens	int64	Количество токенов в запросе пользователя
a_tokens	int64	Количество токенов в ответе ассистента
u_lang	string	Язык запроса пользователя (ru)
a_lang	string	Язык ответа ассистента (ru)
cluster	int64	Номер кластера для группировки похожих записей

Обработка текста

Удаление метаданных
Форматирование текста "в человеческий вид"
Очистка от BOM и спецсимволов
Удаление секции "См. также" и всего после неё
Обрезка до последнего полного предложения
Нормализация кириллицы (ё -> е)
Очистка от дублей пробелов/пунктуации

Технические детали

Формат: Parquet
Сжатие: Snappy
Кодировка: UTF-8
Язык: Русский

Использование

Для обучения LLM
Для fine-tuning
Для создания embeddings
Для тестирования моделей

Николай Веселов