rhysjones commited on
Commit
c39dbc0
·
verified ·
1 Parent(s): 6a45d8b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +30 -0
README.md CHANGED
@@ -1,3 +1,33 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ language:
4
+ - cy
5
+ datasets:
6
+ - yahma/alpaca-cleaned
7
  ---
8
+ # Mwydryn #
9
+ (*Fersiwn 2 yn seiliedig ar Mistral-7B.*)
10
+
11
+ Mae'r model yn ddilyniant ar fersiwn o Mistral sydd yn medru sgwrsio a chyfathrebu drwy'r Gymraeg yn eithaf eglur, ond heb sail cryf iawn mewn ffeithiau arbennig (yn enwedig am Gymru yn anffodus).
12
+
13
+ Mae'r model LLM yn seiliedig ar [BangorAI/mistral-7b-cy-epoch-2](https://huggingface.co/BangorAI/mistral-7b-cy-epoch-2), sef y model Mistral-7B wedi hyfforddiant parhaus ar gyfer y Gymraeg.
14
+
15
+ Cafodd y model hyfforddiant cywrain pellach ar ddata [yahma/alpaca-cleaned](https://huggingface.co/datasets/yahma/alpaca-cleaned) oedd wedi ei drosi yn fras.
16
+
17
+ ## Demo Byw ##
18
+
19
+ Mae fersiwn o'r model i'w gael yma am sgwrs: [https://demo.bangor.ai](https://demo.bangor.ai).
20
+
21
+ LLM arbrofol ydyw, felly peidiwch a chymeryd unrhyw ymateb gan y model o ddifri.
22
+
23
+ ## Fformat Sgwrs ##
24
+
25
+ Mae'r hyfforddiant cywrain wedi defnyddio'r fformat Llama-2 ar gyfer sgwrsio.
26
+ ```
27
+ <s>[INST] <<SYS>>
28
+ {{ system_prompt }}
29
+ <</SYS>>
30
+
31
+ {{ user_message }} [/INST]
32
+
33
+ ```