efederici commited on
Commit
bc7b9a8
·
1 Parent(s): 4254a1e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +61 -1
README.md CHANGED
@@ -1 +1,61 @@
1
- hello
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - it
4
+ datasets:
5
+ - custom
6
+ ---
7
+ # it5-small-lfqa
8
+
9
+ It is a (test) T5 ([IT5](https://huggingface.co/gsarti/it5-small)) small model trained on a lfqa dataset.
10
+
11
+ <p align="center">
12
+ <img src="https://www.arthipo.com/image/cache/catalog/artists-painters/y/yayoi-kusama/yoiku378-Yayoi-Kusama-A-Circus-Rider's-Dream-837x1000.jpg" width="400"> </br>
13
+ Yayoi Kusama, A circus Rider's Dream, 1955
14
+ </p>
15
+
16
+ ## Training Data
17
+
18
+ This model was trained on a lfqa dataset. The model provide long-form answers to open domain questions (maybe, at the moment).
19
+
20
+ ## Usage and Performance
21
+
22
+ ```python
23
+ import torch
24
+ from transformers import AutoTokenizer, AutoModel, AutoModelForSeq2SeqLM
25
+
26
+ model_name = "efederici/it5-small-lfqa"
27
+ device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
28
+
29
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
30
+ model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
31
+ model = model.to(device)
32
+
33
+ query = "con chi si era messo in contatto elon musk?"
34
+
35
+ # concatenated texts/document text
36
+ doc = """
37
+ La notizia dell’acquisizione da parte di Elon Musk del 9,2 per cento delle azioni di Twitter e del suo successivo ingresso nel consiglio di amministrazione della società hanno attirato grandi attenzioni, non solo da parte degli analisti finanziari, ma anche di chi si occupa di social media e del modo in cui viene impiegata la piattaforma da centinaia di milioni di persone in tutto il mondo. Musk, che ha un grande seguito su Twitter, in passato aveva più volte criticato il social network, accusandolo di non tutelare a sufficienza le libertà di espressione, anche in casi limite come l’assalto al Congresso degli Stati Uniti del 2021.
38
+ Alcune settimane fa, Musk si era messo in contatto con Parag Agrawal, CEO di Twitter da fine novembre 2021, e con il suo predecessore e cofondatore della società, Jack Dorsey, annunciando di avere avviato l’acquisizione di alcune quote dell’azienda e di essere disponibile per discutere di soluzioni per migliorarla. Secondo fonti del New York Times, dopo i primi contatti, Agrawal aveva proposto a Musk di avere un ruolo più attivo oltre a quello di azionista, offrendogli la possibilità di entrare nel consiglio di amministrazione.
39
+ """
40
+
41
+ query_and_docs = f"Domanda: {query} Contesto: {doc}"
42
+
43
+ model_input = tokenizer(query_and_docs, truncation=True, padding=True, return_tensors="pt")
44
+
45
+ output = model.generate(input_ids=model_input["input_ids"].to(device),
46
+ attention_mask=model_input["attention_mask"].to(device),
47
+ min_length=10,
48
+ max_length=256,
49
+ do_sample=False,
50
+ early_stopping=True,
51
+ num_beams=8,
52
+ temperature=1.0,
53
+ top_k=None,
54
+ top_p=None,
55
+ no_repeat_ngram_size=3,
56
+ num_return_sequences=1)
57
+
58
+ tokenizer.batch_decode(output, skip_special_tokens=True, clean_up_tokenization_spaces=True)
59
+ ```
60
+
61
+ The model will predict an answer.