---
language:
- ru
license:
- cc-by-sa-3.0
- gfdl
size_categories:
- 1M<n<10M
task_categories:
- text-generation
task_ids:
- language-modeling
- masked-language-modeling
---

# Wikipedia RuDataset

Это сокращённая версия обширного русского датасета, предоставленного [Wikimedia/Wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia).
Для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM.

## Структура данных
- num - уникальный номер записи в датасете
- system - системный промпт для модели (настраивается при конвертации)
- user - заголовок статьи из Википедии 
- assistant - основной текст статьи
- u_tokens - количество токенов в заголовке
- a_tokens - количество токенов в тексте статьи
- u_lang - язык заголовка (ru)
- a_lang - язык текста (ru)
- cluster - номер кластера для группировки похожих статей


# RuDataset - Русскоязычный датасет для обучения языковых моделей

## Описание структуры данных

Датасет хранится в формате Parquet и имеет следующую структуру:

### Основные поля

| Поле | Тип | Описание |
|------|-----|----------|
| num | int64 | Уникальный номер записи |
| system | string | Системный промпт для модели |
| user | string | Запрос пользователя (вопрос/заголовок) |
| assistant | string | Ответ ассистента (текст/содержание) |
| u_tokens | int64 | Количество токенов в запросе пользователя |
| a_tokens | int64 | Количество токенов в ответе ассистента |
| u_lang | string | Язык запроса пользователя (ru) |
| a_lang | string | Язык ответа ассистента (ru) |
| cluster | int64 | Номер кластера для группировки похожих записей |

## Обработка текста
- Удаление метаданных в {{...}}
- Очистка от BOM и спецсимволов
- Удаление секции "См. также" и всего после неё
- Обрезка до последнего полного предложения
- Возможность ограничить длину текста (в словах)
- Нормализация кириллицы (ё -> е)
- Очистка от дублей пробелов/пунктуации

Доступные варианты:
1. Базовый энциклопедический ассистент
2. Эксперт по русской Википедии
3. Помощник с простыми объяснениями
4. Пользовательский промпт

## Технические детали
Формат: Parquet
Сжатие: Snappy
Кодировка: UTF-8
Язык: Русский

## Использование
- Для обучения LLM
- Для fine-tuning
- Для создания embeddings
- Для тестирования моделей

-------------------------------------
[Николай Веселов](https://nickveselov.ru/)