Lettria/grag-go-idf-online_contrastive_8082-v2

SentenceTransformer based on intfloat/multilingual-e5-base

This is a sentence-transformers model finetuned from intfloat/multilingual-e5-base on the json dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: intfloat/multilingual-e5-base
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity
• Training Dataset:
  • json

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: XLMRobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
  (2): Normalize()
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("Lettria/grag-go-idf-online_contrastive_8082-v2-trial-5")
# Run inference
sentences = [
    'Date de début: non précisée\nDate de fin (clôture): non précisée\nDate de début de la future campagne: non précisée',
    "'Date de fin':concept|EST|'non précisée':__inferred__",
    "'Date de fin':concept|EST|'Lundi 18 Novembre 2024':__inferred__",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Binary Classification

• Dataset: BinaryClassifEval
• Evaluated with BinaryClassificationEvaluator

Metric	Value
cosine_accuracy	0.7239
cosine_accuracy_threshold	0.7624
cosine_f1	0.731
cosine_f1_threshold	0.7544
cosine_precision	0.6923
cosine_recall	0.7744
cosine_ap	0.7897
cosine_mcc	0.4253

Training Details

Training Dataset

json

• Dataset: json
• Size: 4,861 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	int
  details	min: 26 tokens mean: 191.64 tokens max: 429 tokens	min: 18 tokens mean: 31.2 tokens max: 72 tokens	1: 100.00%

• Samples:

  sentence1	sentence2	label
  Type de project: L’excès de précipitations tout au long de l’année a conduit à une chute spectaculaire des rendements des céréales d’été et des protéagineux (blé, orge, pois, féverole, etc.) que produisent 90% des agriculteurs d’Île-de-France, historique grenier à blé du pays. Tributaires naturels du fleurissement des cultures, les apiculteurs professionnels de la région ont également souffert de ces dérèglements climatiques.La Région accompagne les exploitations concernées en leur apportant une aide exceptionnelle.	'excès de précipitations':phénomène	DIMINUE
  Type de project: Dans le cadre de sa stratégie « Impact 2028 », la Région s’engage dans la défense de la souveraineté industrielle en renforçant son soutien à une industrie circulaire et décarbonée, porteuse d’innovations et créatrice d’emplois. PM'up Jeunes pousses industrielles soutient les projets d’implantation d’une première usine tournée vers la décarbonation, l’efficacité énergétique et la circularité des processus de production. Ces projets peuvent prendre l'une de ces formes : Une première unité de production industrielle, après une phase de prototypage,Une ligne pilote de production industrielle, en interne ou chez un tiers situé en Île-de-France, à condition que sa production soit destinée à de premières commercialisations,La transformation d’une unité de production pilote à une unité de production industrielle	'Région Île-de-France':organisation	soutient
  Procédures et démarches: Le dépôt des demandes de subvention se fait en ligne sur la plateforme régionale mesdemarches.iledefrance.fr : Session de dépôt unique pour les nouvelles demandes : du 30 septembre au 4 novembre 2024 (11 heures) pour des festivals qui se déroulent entre le 1er mars 2025 et le 28 février 2026 (vote à la CP de mars 2025). Pour les demandes de renouvellement, un mail est envoyé aux structures concernées par le service du Spectacle vivant en amont de chaque session de dépôt. Bénéficiaires: Professionnel - Culture, Association - Fondation, Association - Régie par la loi de 1901, Association - ONG, Collectivité ou institution - Communes de 10 000 à 20 000 hab, Collectivité ou institution - Autre (GIP, copropriété, EPA...), Collectivité ou institution - Communes de 2000 à 10 000 hab, Collectivité ou institution - Communes de < 2000 hab, Collectivité ou institution - Communes de > 20 000 hab, Collectivité ou institution - Département, Collectivité ou institution - EPC...	'Collectivité ou institution - EPCI':bénéficiaire	PEUT_BÉNÉFICIER

• Loss: OnlineContrastiveLoss

Evaluation Dataset

json

• Dataset: json
• Size: 1,217 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	int
  details	min: 24 tokens mean: 188.47 tokens max: 394 tokens	min: 17 tokens mean: 31.22 tokens max: 133 tokens	0: ~38.40% 1: ~61.60%

• Samples:

  sentence1	sentence2	label
  Type de project: Le programme propose des rencontres le samedi après-midi dans une université ou une grande école réputée, entre les professionnels bénévoles et les lycéens et collégiens sous la forme d'atelier thématiques. Ces moments de rencontre touchent à une grande multitude de domaines d’activités. L'objectif est de donner l’opportunité aux jeunes les plus enclavés d’échanger avec des intervenants professionnels aux parcours atypiques et inspirants. Les intervenants suscitent les ambitions et élargissent les perspectives des élèves.	'rencontres':événement	impliquent
  Précision sure les bénéficiaires: Communes,Établissements publics de coopération intercommunale (avec ou sans fiscalité propre),Établissements publics territoriaux franciliens,Départements,Aménageurs publics et privés (lorsque ces derniers interviennent à la demande ou pour le compte d'une collectivité précitée).	'Aménageurs privés':entité	INTERVIENT_POUR
  Date de début: non précisée Date de fin (clôture): non précisée Date de début de la future campagne: non précisée	'Date de fin':concept	EST

• Loss: OnlineContrastiveLoss

Training Hyperparameters

Non-Default Hyperparameters

• eval_strategy: epoch
• per_device_train_batch_size: 4
• per_device_eval_batch_size: 4
• gradient_accumulation_steps: 4
• learning_rate: 4.8482667652196246e-05
• num_train_epochs: 10
• lr_scheduler_type: cosine
• warmup_steps: 191
• bf16: True
• tf32: True
• load_best_model_at_end: True
• optim: adamw_torch_fused
• hub_model_id: Lettria/grag-go-idf-online_contrastive_8082-v2-trial-5

All Hyperparameters

Click to expand

• overwrite_output_dir: False
• do_predict: False
• eval_strategy: epoch
• prediction_loss_only: True
• per_device_train_batch_size: 4
• per_device_eval_batch_size: 4
• per_gpu_train_batch_size: None
• per_gpu_eval_batch_size: None
• gradient_accumulation_steps: 4
• eval_accumulation_steps: None
• torch_empty_cache_steps: None
• learning_rate: 4.8482667652196246e-05
• weight_decay: 0.0
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• max_grad_norm: 1.0
• num_train_epochs: 10
• max_steps: -1
• lr_scheduler_type: cosine
• lr_scheduler_kwargs: {}
• warmup_ratio: 0.0
• warmup_steps: 191
• log_level: passive
• log_level_replica: warning
• log_on_each_node: True
• logging_nan_inf_filter: True
• save_safetensors: True
• save_on_each_node: False
• save_only_model: False
• restore_callback_states_from_checkpoint: False
• no_cuda: False
• use_cpu: False
• use_mps_device: False
• seed: 42
• data_seed: None
• jit_mode_eval: False
• use_ipex: False
• bf16: True
• fp16: False
• fp16_opt_level: O1
• half_precision_backend: auto
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: True
• local_rank: 0
• ddp_backend: None
• tpu_num_cores: None
• tpu_metrics_debug: False
• debug: []
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_prefetch_factor: None
• past_index: -1
• disable_tqdm: False
• remove_unused_columns: True
• label_names: None
• load_best_model_at_end: True
• ignore_data_skip: False
• fsdp: []
• fsdp_min_num_params: 0
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• fsdp_transformer_layer_cls_to_wrap: None
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• deepspeed: None
• label_smoothing_factor: 0.0
• optim: adamw_torch_fused
• optim_args: None
• adafactor: False
• group_by_length: False
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• skip_memory_metrics: True
• use_legacy_prediction_loop: False
• push_to_hub: False
• resume_from_checkpoint: None
• hub_model_id: Lettria/grag-go-idf-online_contrastive_8082-v2-trial-5
• hub_strategy: every_save
• hub_private_repo: None
• hub_always_push: False
• gradient_checkpointing: False
• gradient_checkpointing_kwargs: None
• include_inputs_for_metrics: False
• include_for_metrics: []
• eval_do_concat_batches: True
• fp16_backend: auto
• push_to_hub_model_id: None
• push_to_hub_organization: None
• mp_parameters:
• auto_find_batch_size: False
• full_determinism: False
• torchdynamo: None
• ray_scope: last
• ddp_timeout: 1800
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• dispatch_batches: None
• split_batches: None
• include_tokens_per_second: False
• include_num_input_tokens_seen: False
• neftune_noise_alpha: None
• optim_target_modules: None
• batch_eval_metrics: False
• eval_on_start: False
• use_liger_kernel: False
• eval_use_gather_object: False
• average_tokens_across_devices: False
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: proportional

Training Logs

Epoch	Step	Training Loss	Validation Loss	BinaryClassifEval_cosine_ap
0.1316	40	0.4716	-	-
0.2632	80	0.3705	-	-
0.3947	120	0.406	-	-
0.5263	160	0.3677	-	-
0.6579	200	0.39	-	-
0.7895	240	0.3813	-	-
0.9211	280	0.3815	-	-
1.0	304	-	0.114	0.7897
1.0526	320	0.3434	-	-
1.1842	360	0.3049	-	-
1.3158	400	0.3214	-	-
1.4474	440	0.3269	-	-
1.5789	480	0.2828	-	-
1.7105	520	0.2726	-	-
1.8421	560	0.3099	-	-
1.9737	600	0.2944	-	-
2.0	608	-	0.1362	0.7456
2.1053	640	0.2928	-	-
2.2368	680	0.2382	-	-
2.3684	720	0.2369	-	-
2.5	760	0.2086	-	-
2.6316	800	0.2401	-	-
2.7632	840	0.218	-	-
2.8947	880	0.1988	-	-
3.0	912	-	0.1510	0.7015
3.0263	920	0.199	-	-
3.1579	960	0.194	-	-
3.2895	1000	0.1726	-	-
3.4211	1040	0.1504	-	-
3.5526	1080	0.1782	-	-
3.6842	1120	0.1869	-	-
3.8158	1160	0.1624	-	-
3.9474	1200	0.149	-	-
4.0	1216	-	0.1467	0.7468
4.0789	1240	0.1431	-	-
4.2105	1280	0.1492	-	-
4.3421	1320	0.1345	-	-
4.4737	1360	0.1251	-	-
4.6053	1400	0.1032	-	-
4.7368	1440	0.0979	-	-
4.8684	1480	0.1369	-	-
5.0	1520	0.1013	0.1706	0.6860
5.1316	1560	0.1015	-	-
5.2632	1600	0.0871	-	-
5.3947	1640	0.0717	-	-
5.5263	1680	0.0912	-	-
5.6579	1720	0.0786	-	-
5.7895	1760	0.0891	-	-
5.9211	1800	0.0866	-	-
6.0	1824	-	0.1822	0.6957
6.0526	1840	0.0692	-	-
6.1842	1880	0.0543	-	-
6.3158	1920	0.0528	-	-
6.4474	1960	0.0644	-	-
6.5789	2000	0.084	-	-
6.7105	2040	0.0511	-	-
6.8421	2080	0.0544	-	-
6.9737	2120	0.0675	-	-
7.0	2128	-	0.1909	0.6784
7.1053	2160	0.0351	-	-
7.2368	2200	0.0492	-	-
7.3684	2240	0.04	-	-
7.5	2280	0.0606	-	-
7.6316	2320	0.0509	-	-
7.7632	2360	0.0397	-	-
7.8947	2400	0.0412	-	-
8.0	2432	-	0.1983	0.6886
8.0263	2440	0.0541	-	-
8.1579	2480	0.0302	-	-
8.2895	2520	0.0494	-	-
8.4211	2560	0.0286	-	-
8.5526	2600	0.0327	-	-
8.6842	2640	0.0378	-	-
8.8158	2680	0.037	-	-
8.9474	2720	0.0473	-	-
9.0	2736	-	0.2056	0.6887
9.0789	2760	0.0342	-	-
9.2105	2800	0.0251	-	-
9.3421	2840	0.0294	-	-
9.4737	2880	0.0346	-	-
9.6053	2920	0.0313	-	-
9.7368	2960	0.0288	-	-
9.8684	3000	0.039	-	-
10.0	3040	0.0426	0.1140	0.7897

• The bold row denotes the saved checkpoint.

Framework Versions

• Python: 3.11.9
• Sentence Transformers: 3.4.1
• Transformers: 4.48.3
• PyTorch: 2.3.0
• Accelerate: 1.1.0
• Datasets: 3.3.2
• Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}