---
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:3804390
- loss:RZTKMatryoshka2dLoss
base_model: intfloat/multilingual-e5-base
widget:
- source_sentence: 'query: чоловічіпіжами'
sentences:
- 'passage: Портативна зарядна станція EcoFlow DELTA 2 1800W 1024 W/h Зарядні станції
EcoFlow Тип акумуляторів Літій-залізо-фосфатні (LiFePO4) Призначення Для всього
будинку Призначення Для ноутбуків Країна-виробник товару Китай Вихідні інтерфейси
Розетка 220 В Вихідні інтерфейси 2 x DC-роз''єм Вихідні інтерфейси Гніздо прикурювача
Вихідні інтерфейси USB Type C Вихідні інтерфейси USB Type A Місткість зарядної
станції, Вт*год 1024 Вихідна потужність (загальна), Вт 1800 Максимальна потужність
заряджання (220В), Вт 1800'
- 'passage: Плата UPS для роутера USB/Li-ion/12V модуль підвищення Аксесуари для
акумуляторів BAT'
- 'passage: Піжама чоловіча на флісі напівбатальна темно-сірого кольору K.S.M. розмір
50-52 (195976) Чоловічі піжами KSM'
- source_sentence: 'query: чоловічіпіжами'
sentences:
- 'passage: Віскі Balvenie Doublewood 12 років витримки 0.05 л 40% (5010327529219_5010327509112)
Balvenie Об''єм, л 0.05 Міцність 40% Витримка 12 років Країна-виробник товару
Велика Британія Вид Віскі односолодовий Особливості Холодна фільтрація Поєднання
Дижестив Смак Солодкий (Sweet) Доставка Готовий до відправлення Доставка Доставка
в магазини ROZETKA'
- 'passage: Віскі GlenAllachie 15yo 0.05 л 46% (5060568320960) Glenallachie Об''єм,
л 0.05 Міцність 46% Витримка 15 років Країна-виробник товару Велика Британія Упаковка
Без упаковки Доставка Доставка в магазини ROZETKA'
- 'passage: Піжама чоловіча комбінована махра 48 темно-синій Жемчужина Стилей Aрт(4612)
Чоловічі піжами Жемчужина Стилей Сезон Демісезонний Сезон Зимовий Розмір 48 Колір
Темно-синій'
- source_sentence: 'query: піна для гоління'
sentences:
- 'passage: Пиджак удлиненный женский Koton 8YAK52518UW-999 38 Black (8681890032740)
Женские пиджаки Koton Количество грузовых мест 1 Страна регистрации бренда Турция
Страна-производитель товара Турция Размер 38 Стиль Повседневный (casual) Цвет
Черный Материал Полиэстер Материал Эластан Доставка Доставка в магазины ROZETKA'
- 'passage: Набор косметики Create it! Русалочка (84141) (8712916084532) Различные
наборы для детского творчества Create it! Гарантия 14 дней Вид Детская декоративная
косметика Пол ребенка Девочка Количество грузовых мест 1 Страна регистрации бренда
Нидерланды Страна-производитель товара Китай Детский возраст 8 лет Детский возраст
10 лет Детский возраст 6 лет Детский возраст 7 лет Детский возраст 9 лет Детский
возраст 12 лет Детский возраст 11 лет Тип гарантийного талона Гарантия по чеку
Доставка Premium Доставка Доставка в магазины ROZETKA'
- 'passage: Освежающая и тонизирующая пена для бритья Proraso 300 мл (8004395001927)
Косметика для бритья Proraso Класс косметики Профессиональная Пол Для мужчин Количество
грузовых мест 1 Страна регистрации бренда Италия Количество предметов, шт 1 Страна-производитель
товара Италия Объем 300 мл Тип кожи Для всех типов Тип гарантийного талона Гарантия
по чеку Вид Пена Доставка Premium Доставка Доставка в магазины ROZETKA'
- source_sentence: 'query: піжама дитяча'
sentences:
- 'passage: Піжама дитяча для дівчаток флісова RI-TEX М-056.5 Зірки 152-158 Пижамы
для девочек Сезон Зимний Страна-производитель товара Украина Цвет Серый Рост
152 см Рост 158 см Детский возраст 13 лет Детский возраст 12 лет'
- 'passage: Спортивний костюм для дівчат Валері-Текс 1895-20-365-017 128 см Малиновий
Спортивные костюмы для девочек Valeri-tex Страна-производитель товара Украина
Цвет Малиновый Материал Велюр Рост 128 см'
- 'passage: Насадка пылеуловитель для болгарки Craft CSH-125 Столы, стойки, насадки
Craft Гарантия 12 месяцев Назначение Для УШМ Страна-производитель товара Китай
Теги недорогие Тип Комплектующие'
- source_sentence: 'query: сумка жіноча шкіра'
sentences:
- 'passage: Жіночі спортивні шорти Overgym персикові XS Жіночі спортивні шорти Over
Gym Країна реєстрації бренда Україна Країна-виробник товару Китай Колір Персиковий
Матеріал Поліамід Матеріал Поліестер Принт Однотонний'
- 'passage: Жіноча сумка шкіряна Borsacomoda 813023 Чорна Сумки Borsacomoda Для
кого Для жінок Вид Сумки Колір Чорний Кількість вантажних місць 1 Модель сумки
Крос-боді Матеріал Шкіра Країна реєстрації бренда Україна Країна-виробник товару
Україна Тип гарантійного талона Гарантія по чеку Застібка Змійка Доставка Premium
Доставка Доставка в магазини ROZETKA'
- 'passage: Індукційна варильна поверхня Gunter&Hauer I 6 FB (6778875) Варильні
поверхні індукційні Gunter&Hauer Функції Індикатор залишкового тепла Функції Захист
від дітей Можливість під''єднання до мережі 220 В'
pipeline_tag: sentence-similarity
library_name: sentence-transformers
metrics:
- dot_accuracy_10
- dot_precision_10
- dot_recall_10
- dot_ndcg_10
- dot_mrr_10
- dot_map_60
model-index:
- name: SentenceTransformer based on intfloat/multilingual-e5-base
results:
- task:
type: rztkinformation-retrieval
name: RZTKInformation Retrieval
dataset:
name: 'core uk matryoshka dim 768 '
type: core-uk--matryoshka_dim-768--
metrics:
- type: dot_accuracy_10
value: 0.979002624671916
name: Dot Accuracy 10
- type: dot_precision_10
value: 0.3796587926509187
name: Dot Precision 10
- type: dot_recall_10
value: 0.45280225388493106
name: Dot Recall 10
- type: dot_ndcg_10
value: 0.5583367249487432
name: Dot Ndcg 10
- type: dot_mrr_10
value: 0.8503004832729241
name: Dot Mrr 10
- type: dot_map_60
value: 0.39511574225334306
name: Dot Map 60
- task:
type: rztkinformation-retrieval
name: RZTKInformation Retrieval
dataset:
name: 'core ru matryoshka dim 768 '
type: core-ru--matryoshka_dim-768--
metrics:
- type: dot_accuracy_10
value: 0.9724409448818898
name: Dot Accuracy 10
- type: dot_precision_10
value: 0.3753280839895013
name: Dot Precision 10
- type: dot_recall_10
value: 0.44887826521684787
name: Dot Recall 10
- type: dot_ndcg_10
value: 0.5583301697325973
name: Dot Ndcg 10
- type: dot_mrr_10
value: 0.8581588759738366
name: Dot Mrr 10
- type: dot_map_60
value: 0.39791822283097145
name: Dot Map 60
- task:
type: rztkinformation-retrieval
name: RZTKInformation Retrieval
dataset:
name: 'vespa uk matryoshka dim 768 '
type: vespa-uk--matryoshka_dim-768--
metrics:
- type: dot_accuracy_10
value: 0.8913043478260869
name: Dot Accuracy 10
- type: dot_precision_10
value: 0.65
name: Dot Precision 10
- type: dot_recall_10
value: 0.21543325236733296
name: Dot Recall 10
- type: dot_ndcg_10
value: 0.7328694108300967
name: Dot Ndcg 10
- type: dot_mrr_10
value: 0.8577898550724636
name: Dot Mrr 10
- type: dot_map_60
value: 0.521722082197244
name: Dot Map 60
- task:
type: rztkinformation-retrieval
name: RZTKInformation Retrieval
dataset:
name: 'vespa ru matryoshka dim 768 '
type: vespa-ru--matryoshka_dim-768--
metrics:
- type: dot_accuracy_10
value: 0.9130434782608695
name: Dot Accuracy 10
- type: dot_precision_10
value: 0.6391304347826087
name: Dot Precision 10
- type: dot_recall_10
value: 0.214877024136512
name: Dot Recall 10
- type: dot_ndcg_10
value: 0.7176653908267321
name: Dot Ndcg 10
- type: dot_mrr_10
value: 0.8270962732919255
name: Dot Mrr 10
- type: dot_map_60
value: 0.5150948980713368
name: Dot Map 60
---
# SentenceTransformer based on intfloat/multilingual-e5-base
This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base) on the core dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
## Model Details
### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [intfloat/multilingual-e5-base](https://huggingface.co/intfloat/multilingual-e5-base)
- **Maximum Sequence Length:** 512 tokens
- **Output Dimensionality:** 768 dimensions
- **Similarity Function:** Dot Product
- **Training Dataset:**
- core
### Model Sources
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
### Full Model Architecture
```
RZTKSentenceTransformer(
(0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
```
## Usage
### Direct Usage (Sentence Transformers)
First install the Sentence Transformers library:
```bash
pip install -U sentence-transformers
```
Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("yklymchuk-rztk/multiple-datasets-e5-jina-mnr-3-electronics-only")
# Run inference
sentences = [
'query: сумка жіноча шкіра',
'passage: Жіноча сумка шкіряна Borsacomoda 813023 Чорна Сумки Borsacomoda Для кого Для жінок Вид Сумки Колір Чорний Кількість вантажних місць 1 Модель сумки Крос-боді Матеріал Шкіра Країна реєстрації бренда Україна Країна-виробник товару Україна Тип гарантійного талона Гарантія по чеку Застібка Змійка Доставка Premium Доставка Доставка в магазини ROZETKA',
"passage: Індукційна варильна поверхня Gunter&Hauer I 6 FB (6778875) Варильні поверхні індукційні Gunter&Hauer Функції Індикатор залишкового тепла Функції Захист від дітей Можливість під'єднання до мережі 220 В",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```
## Evaluation
### Metrics
#### RZTKInformation Retrieval
* Datasets: `core-uk--matryoshka_dim-768--`, `core-ru--matryoshka_dim-768--`, `vespa-uk--matryoshka_dim-768--` and `vespa-ru--matryoshka_dim-768--`
* Evaluated with sentence_transformers_training.evaluation.information_retrieval_evaluator.RZTKInformationRetrievalEvaluator
| Metric | core-uk--matryoshka_dim-768-- | core-ru--matryoshka_dim-768-- | vespa-uk--matryoshka_dim-768-- | vespa-ru--matryoshka_dim-768-- |
|:-----------------|:------------------------------|:------------------------------|:-------------------------------|:-------------------------------|
| dot_accuracy_10 | 0.979 | 0.9724 | 0.8913 | 0.913 |
| dot_precision_10 | 0.3797 | 0.3753 | 0.65 | 0.6391 |
| dot_recall_10 | 0.4528 | 0.4489 | 0.2154 | 0.2149 |
| **dot_ndcg_10** | **0.5583** | **0.5583** | **0.7329** | **0.7177** |
| dot_mrr_10 | 0.8503 | 0.8582 | 0.8578 | 0.8271 |
| dot_map_60 | 0.3951 | 0.3979 | 0.5217 | 0.5151 |
## Training Details
### Training Dataset
#### core
* Dataset: core
* Size: 3,804,390 training samples
* Columns: query
and text
* Approximate statistics based on the first 1000 samples:
| | query | text |
|:--------|:----------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------|
| type | string | string |
| details |
query: 555 anker
| passage: Зарядна станція Anker PowerHouse 555 / 1000 Вт / 1048 Вт⋅год / LiFePO4 (A1760311) Зарядні станції Anker Гарантія 5 років Тип акумуляторів Літій-залізо-фосфатні (LiFePO4) Колір Чорний Ємність батареї, мА*год 320000 Заряджається від Від мережі Призначення Для телевізорів Призначення Для ноутбуків Призначення Для персональних комп'ютерів Особливості З ліхтариком Особливості Протиударний Особливості Швидке заряджання батареї Кількість вантажних місць 1 Країна реєстрації бренда США Країна-виробник товару Китай Функції зарядки PowerIQ Функції зарядки Power Delivery Функції зарядки Наскрізна зарядка Тип гарантійного талона Гарантійний талон магазина Вихідна напруга, В 20 Вихідна напруга, В 9 Вихідна напруга, В 12 Вихідна напруга, В 220 Вихідна напруга, В 5 Вихідна напруга, В 15 Індикація З дисплеєм Одночасне заряджання пристроїв 8 Вихідні інтерфейси Розетка 220 В Вихідні інтерфейси USB Type C Вихідні інтерфейси USB Type A Вихідні інтерфейси Гніздо прикурювача Вхідні інтерфейси USB Ty...
|
| query: 555 anker
| passage: Зарядная станция Anker PowerHouse 555 / 1000 Вт / 1048 Вт⋅ч / LiFePO4 (A1760311) Зарядные станции Anker Гарантия 5 лет Тип аккумуляторов Литий-железо-фосфатные (LiFePO4) Цвет Черный Емкость батареи, мА*ч 320000 Заряжается от От сети Назначение Для телевизоров Назначение Для ноутбуков Назначение Для персональных компьютеров Особенности С фонариком Особенности Противоударный Особенности Быстрая зарядка батареи Количество грузовых мест 1 Страна регистрации бренда США Страна-производитель товара Китай Функции зарядки PowerIQ Функции зарядки Power Delivery Функции зарядки Сквозная зарядка Тип гарантийного талона Гарантийный талон магазина Выходное напряжение, В 20 Выходное напряжение, В 9 Выходное напряжение, В 12 Выходное напряжение, В 220 Выходное напряжение, В 5 Выходное напряжение, В 15 Индикация С дисплеем Одновременно заряжаемых устройств 8 Выходные интерфейсы Розетка 220 В Выходные интерфейсы USB Type C Выходные интерфейсы USB Type A Выходные интерфейсы Гнездо прикуривателя ...
|
| query: anker-powerhouse-555
| passage: Зарядная станция Anker PowerHouse 555 / 1000 Вт / 1048 Вт⋅ч / LiFePO4 (A1760311) Зарядные станции Anker Гарантия 5 лет Тип аккумуляторов Литий-железо-фосфатные (LiFePO4) Цвет Черный Емкость батареи, мА*ч 320000 Заряжается от От сети Назначение Для телевизоров Назначение Для ноутбуков Назначение Для персональных компьютеров Особенности С фонариком Особенности Противоударный Особенности Быстрая зарядка батареи Количество грузовых мест 1 Страна регистрации бренда США Страна-производитель товара Китай Функции зарядки PowerIQ Функции зарядки Power Delivery Функции зарядки Сквозная зарядка Тип гарантийного талона Гарантийный талон магазина Выходное напряжение, В 20 Выходное напряжение, В 9 Выходное напряжение, В 12 Выходное напряжение, В 220 Выходное напряжение, В 5 Выходное напряжение, В 15 Индикация С дисплеем Одновременно заряжаемых устройств 8 Выходные интерфейсы Розетка 220 В Выходные интерфейсы USB Type C Выходные интерфейсы USB Type A Выходные интерфейсы Гнездо прикуривателя ...
|
* Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss
with these parameters:
```json
{
"loss": "RZTKMultipleNegativesRankingLoss",
"n_layers_per_step": 1,
"last_layer_weight": 1.0,
"prior_layers_weight": 1.0,
"kl_div_weight": 1.0,
"kl_temperature": 0.3,
"matryoshka_dims": [
768,
512,
256,
128
],
"matryoshka_weights": [
1,
1,
1,
1
],
"n_dims_per_step": 1
}
```
### Evaluation Datasets
#### core_uk
* Dataset: core_uk
* Size: 3,220 evaluation samples
* Columns: query
and text
* Approximate statistics based on the first 1000 samples:
| | query | text |
|:--------|:----------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
| type | string | string |
| details | query: лампочка е27
| passage: Світлодіодна лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампи OSRAM Гарантія 36 місяців Виробник світлодіодів Osram Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів RGB (різнокольоровий) Колір світіння / Температура кольорів Теплий білий Світловий потік 806 Лм Еквівалент потужності лампи розжарювання 60 Вт Робоча напруга, в 230 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Матовий Кількість вантажних місць 1 Країна реєстрації бренда Німеччина Кількість предметів, шт 1 Країна-виробник товару Китай Особливості З дистанційним управлінням Особливості З регулюванням яскравості (димер) Строк служби лампи, год 25000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 9 Можливість доставки Почтомати Доставка Premium Доставка Доставка в магазини ROZETKA
|
| query: лампочка е27
| passage: Світлодіодна лампа Philips Ecohome LED Bulb 11 W E27 3000 K 1PF/20RCA (929002299567R) 2 шт. Лампи Philips Гарантія 24 місяці Тип цоколя E27 Колір світіння / Температура кольорів Теплий Світловий потік 1150 Лм Еквівалент потужності лампи розжарювання 95 Вт Робоча напруга, в 170-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Колір колби Білий Кількість вантажних місць 1 Країна реєстрації бренда Нідерланди Кількість предметів, шт 2 Країна-виробник товару Китай Строк служби лампи, год теги лампи недорого Тип гарантійного талона Гарантійний талон магазина Потужність, Вт 11 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 3000 К Матеріал колби Пластик Доставка Premium Доставка Доставка в магазини ROZETKA
|
| query: лампочка е27
| passage: Набір світлодіодних ламп Евросвет 12 W 4200 K Е27 (56702) 4 шт. Лампи Євросвітло Гарантія 12 місяців Тип світлодіодів SMD Тип цоколя E27 Колір світіння / Температура кольорів Нейтральний-білий Світловий потік 1200 Лм Еквівалент потужності лампи розжарювання 120 Вт Робоча напруга, в 220-240 Тип Світлодіодні лампи Форма колби Стандартна (груша) Кількість вантажних місць 1 Країна реєстрації бренда Україна Кількість предметів, шт 4 Країна-виробник товару Китай Строк служби лампи, год 15000 теги лампи недорого Тип гарантійного талона Гарантія по чеку Потужність, Вт 12 Застосування Побутові Призначення Для настільної лампи Призначення Для люстри Призначення Для стельових світильників Температура світіння 4200К Матеріал колби Пластик Доставка Готовий до відправлення Доставка Доставка в магазини ROZETKA
|
* Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss
with these parameters:
```json
{
"loss": "RZTKMultipleNegativesRankingLoss",
"n_layers_per_step": 1,
"last_layer_weight": 1.0,
"prior_layers_weight": 1.0,
"kl_div_weight": 1.0,
"kl_temperature": 0.3,
"matryoshka_dims": [
768,
512,
256,
128
],
"matryoshka_weights": [
1,
1,
1,
1
],
"n_dims_per_step": 1
}
```
#### core_ru
* Dataset: core_ru
* Size: 3,220 evaluation samples
* Columns: query
and text
* Approximate statistics based on the first 1000 samples:
| | query | text |
|:--------|:----------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|
| type | string | string |
| details | query: лампочка е27
| passage: Светодиодная лампа Osram LED Star+ DIM A60 9W (806Lm) Е27 (4058075430754) Лампы OSRAM Гарантия 36 месяцев Производитель светодиодов Osram Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура RGB (разноцветный) Цвет свечения / Цветовая температура Теплый белый Световой поток 806 Лм Эквивалент мощности лампы накаливания 60 Вт Рабочее напряжение, В 230 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Матовый Количество грузовых мест 1 Страна регистрации бренда Германия Количество предметов, шт 1 Страна-производитель товара Китай Особенности С дистанционным управлением Особенности С регулировкой яркости (диммер) Срок службы лампы, ч 25000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 9 Возможность доставки Почтоматы Доставка Premium Доставка Доставка в магазины ROZETKA
|
| query: лампочка е27
| passage: Светодиодная лампа Philips Ecohome LED Bulb 11W E27 3000К 1PF/20RCA (929002299567R) 2 шт. Лампы Philips Гарантия 24 месяца Тип цоколя E27 Цвет свечения / Цветовая температура Теплый Световой поток 1150 Лм Эквивалент мощности лампы накаливания 95 Вт Рабочее напряжение, В 170-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Цвет колбы Белый Количество грузовых мест 1 Страна регистрации бренда Нидерланды Количество предметов, шт 2 Страна-производитель товара Китай Срок службы лампы, ч 6000 теги лампы недорого Тип гарантийного талона Гарантийный талон магазина Мощность, Вт 11 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 3000К Материал колбы Пластик Доставка Premium Доставка Доставка в магазины ROZETKA
|
| query: лампочка е27
| passage: Набор светодиодных ламп ЕВРОСВЕТ 12W 4200к Е27 (56702) 4 шт Лампы Євросвітло Гарантия 12 месяцев Тип светодиодов SMD Тип цоколя E27 Цвет свечения / Цветовая температура Нейтральный-белый Световой поток 1200 Лм Эквивалент мощности лампы накаливания 120 Вт Рабочее напряжение, В 220-240 Тип Светодиодные лампы Форма колбы Стандартная (груша) Количество грузовых мест 1 Страна регистрации бренда Украина Количество предметов, шт 4 Страна-производитель товара Китай Срок службы лампы, ч 15000 теги лампы недорого Тип гарантийного талона Гарантия по чеку Мощность, Вт 12 Применение Бытовые Назначение Для настольной лампы Назначение Для люстры Назначение Для потолочных светильников Температура свечения 4200К Материал колбы Пластик Доставка Готов к отправке Доставка Доставка в магазины ROZETKA
|
* Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss
with these parameters:
```json
{
"loss": "RZTKMultipleNegativesRankingLoss",
"n_layers_per_step": 1,
"last_layer_weight": 1.0,
"prior_layers_weight": 1.0,
"kl_div_weight": 1.0,
"kl_temperature": 0.3,
"matryoshka_dims": [
768,
512,
256,
128
],
"matryoshka_weights": [
1,
1,
1,
1
],
"n_dims_per_step": 1
}
```
#### vespa_uk
* Dataset: vespa_uk
* Size: 5,315 evaluation samples
* Columns: query
and text
* Approximate statistics based on the first 1000 samples:
| | query | text |
|:--------|:---------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|
| type | string | string |
| details | query: шланга диаметром 32 мм для викачки брудної води з басейну
| passage: Перехідники для шлангу басейну Intex з 32 мм на 38 мм (IP-175136) Обладнання для басейнів Intex Вид Комплектувальні
|
| query: шланга диаметром 32 мм для викачки брудної води з басейну
| passage: З'єднання для шланга Peraqua діаметр 32 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів
|
| query: шланга диаметром 32 мм для викачки брудної води з басейну
| passage: З'єднання для шлангу Peraqua діаметр 32/38 мм Аксесуари для басейнів Вид Інструменти для прибирання басейнів
|
* Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss
with these parameters:
```json
{
"loss": "RZTKMultipleNegativesRankingLoss",
"n_layers_per_step": 1,
"last_layer_weight": 1.0,
"prior_layers_weight": 1.0,
"kl_div_weight": 1.0,
"kl_temperature": 0.3,
"matryoshka_dims": [
768,
512,
256,
128
],
"matryoshka_weights": [
1,
1,
1,
1
],
"n_dims_per_step": 1
}
```
#### vespa_ru
* Dataset: vespa_ru
* Size: 5,315 evaluation samples
* Columns: query
and text
* Approximate statistics based on the first 1000 samples:
| | query | text |
|:--------|:---------------------------------------------------------------------------------|:------------------------------------------------------------------------------------|
| type | string | string |
| details | query: шланга диаметром 32 мм для викачки брудної води з басейну
| passage: Переходники для шланга бассейна Intex с 32 мм на 38 мм (IP-175136) Оборудование для бассейнов Intex Вид Комплектующие
|
| query: шланга диаметром 32 мм для викачки брудної води з басейну
| passage: Соединение для шланга Peraqua диаметр 32 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов
|
| query: шланга диаметром 32 мм для викачки брудної води з басейну
| passage: Соединение для шланга Peraqua диаметр 32/38 мм Аксессуары для бассейнов Вид Инструменты для уборки бассейнов
|
* Loss: sentence_transformers_training.model.matryoshka2d_loss.RZTKMatryoshka2dLoss
with these parameters:
```json
{
"loss": "RZTKMultipleNegativesRankingLoss",
"n_layers_per_step": 1,
"last_layer_weight": 1.0,
"prior_layers_weight": 1.0,
"kl_div_weight": 1.0,
"kl_temperature": 0.3,
"matryoshka_dims": [
768,
512,
256,
128
],
"matryoshka_weights": [
1,
1,
1,
1
],
"n_dims_per_step": 1
}
```
### Training Hyperparameters
#### Non-Default Hyperparameters
- `eval_strategy`: steps
- `per_device_train_batch_size`: 80
- `per_device_eval_batch_size`: 16
- `learning_rate`: 2e-05
- `warmup_ratio`: 0.1
- `bf16`: True
- `bf16_full_eval`: True
- `tf32`: True
- `dataloader_num_workers`: 4
- `load_best_model_at_end`: True
- `optim`: adafactor
- `push_to_hub`: True
- `hub_model_id`: yklymchuk-rztk/multiple-datasets-e5-jina-mnr-3-electronics-only
- `hub_private_repo`: True
- `prompts`: {'query': 'query: ', 'text': 'passage: '}
- `batch_sampler`: no_duplicates
#### All Hyperparameters