---
language:
- ru
license:
- cc-by-sa-3.0
- gfdl
size_categories:
- 1M<n<10M
task_categories:
- text-generation
task_ids:
- language-modeling
- masked-language-modeling
---

# RuDataset - Русскоязычный датасет для обучения языковых моделей
# Wikipedia RuDataset

Это подготовленная версия обширного русского датасета для тренировки LLM, предоставленного [Wikimedia/Wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia).
Специально для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM.

## Описание структуры данных

Датасет хранится в формате Parquet и имеет следующую структуру:

| Поле | Тип | Описание |
|------|-----|----------|
| num | int64 | Уникальный номер записи |
| system | string | Системный промпт для модели |
| user | string | Запрос пользователя (вопрос/заголовок) |
| assistant | string | Ответ ассистента (текст/содержание) |
| u_tokens | int64 | Количество токенов в запросе пользователя |
| a_tokens | int64 | Количество токенов в ответе ассистента |
| u_lang | string | Язык запроса пользователя (ru) |
| a_lang | string | Язык ответа ассистента (ru) |
| cluster | int64 | Номер кластера для группировки похожих записей |

## Обработка текста
- Удаление метаданных
- Форматирование текста "в человеческий вид"
- Очистка от BOM и спецсимволов
- Удаление секции "См. также" и всего после неё
- Обрезка до последнего полного предложения
- Нормализация кириллицы (ё -> е)
- Очистка от дублей пробелов/пунктуации

## Технические детали
- Формат: Parquet
- Сжатие: Snappy
- Кодировка: UTF-8
- Язык: Русский

## Использование
- Для обучения LLM
- Для fine-tuning
- Для создания embeddings
- Для тестирования моделей

-------------------------------------
[Николай Веселов](https://nickveselov.ru/)