RstoneCommand commited on
Commit
3736312
Β·
verified Β·
1 Parent(s): 6f7e8e5

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -6
README.md CHANGED
@@ -20,7 +20,7 @@ pipeline_tag: text-generation
20
 
21
  **μ €μž**: Synapse-Model Team
22
 
23
- **λͺ¨λΈμ— λŒ€ν•œ 정보**
24
 
25
  Synapse-Model 1 의 μž…λ ₯, 좜λ ₯, μž₯단점 에 λŒ€ν•œ μ„€λͺ…μž…λ‹ˆλ‹€.
26
 
@@ -44,7 +44,7 @@ Synapse-Model 1 은 Synapse-Model Team μ—μ„œ κ°œλ°œν•œ 첫 κ²½λŸ‰ν™” λͺ¨λΈμž…
44
  - λ¬Έμ„œ μš”μ•½
45
  - μž…λ ₯으둜 인해 μƒμ„±λœ 응닡 ν…μŠ€νŠΈ
46
 
47
- **μ‚¬μš©λ°©λ²•**
48
 
49
  이 λ‹€μŒμ€ λͺ¨λΈμ„ λΉ λ₯΄κ²Œ μ‹€ν–‰ν•˜λŠ” 방법에 λŒ€ν•œ λͺ‡κ°€μ§€ μ½”λ“œμ˜ˆμ‹œ 및 μ£Όμ˜μ‚¬ν•­μ΄ μžˆμŠ΅λ‹ˆλ‹€. λ¨Όμ €, transformers 라이브러리λ₯Ό μ΅œμ‹  λ²„μ „μœΌλ‘œ μ—…κ·Έλ ˆμ΄λ“œ λ˜λŠ” μ„€μΉ˜ ν•΄μ•Ό ν•©λ‹ˆλ‹€.(LFM2 에 쒅속됨) `pip install "transformers @ git+https://github.com/huggingface/transformers.git@main".`
50
 
@@ -92,7 +92,7 @@ output = model.generate(
92
  )
93
  ```
94
 
95
- **λͺ¨λΈ 데이터**
96
 
97
  λͺ¨λΈ ν•™μŠ΅μ— μ‚¬μš©λœ ν•™μŠ΅ 데이터셋
98
 
@@ -114,7 +114,7 @@ Synapse-Model 은 λ‹€μ–‘ν•œ λ°μ΄ν„°μ…‹μ˜ μž…λ ₯을 λ°”νƒ•μœΌλ‘œ Synapse-Model
114
 
115
  Unsolth 및 Google Colab(Tesla T4) 을 μ‚¬μš©ν•˜μ—¬ 총 ν•™μŠ΅μ— μ•½ 4μ‹œκ°„μ΄ κ±Έλ ΈμŠ΅λ‹ˆλ‹€.
116
 
117
- **λͺ¨λΈμ‚¬μš© 및 μ œν•œμ‚¬ν•­**
118
 
119
  λͺ¨λΈμ˜ μ‚¬μš©μ„ μœ„ν•΄ μ§€μΌœμ•Όν•  μ œν•œμ‚¬ν•­μ΄ μžˆμŠ΅λ‹ˆλ‹€.
120
 
@@ -141,7 +141,7 @@ Unsolth 및 Google Colab(Tesla T4) 을 μ‚¬μš©ν•˜μ—¬ 총 ν•™μŠ΅μ— μ•½ 4μ‹œκ°„μ΄
141
  - Synapse-Model 은 ν•™μŠ΅λ°μ΄ν„°λ₯Ό 기반으둜 응닡을 μƒμ„±ν•˜λ―€λ‘œ λͺ¨λΈμ€ λΆ€μ ν™•ν•˜κ±°λ‚˜ 였래된 정보λ₯Ό 기반으둜 응닡을 생성할 수 μžˆμŠ΅λ‹ˆλ‹€. (이λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄μ„  Rag λ˜λŠ” Fine-Tuning 이 ν•„μš”ν•¨)
142
 
143
 
144
- **λͺ¨λΈμΆœλ ₯ 미리보기**
145
  ```markdown
146
  instruction: μ•„λž˜ μ§ˆλ¬Έμ— λŒ€ν•΄ ν•΄κ²°
147
  input: Discord 에 λŒ€ν•΄ μ„€λͺ…ν•΄μ€˜μš”
@@ -240,6 +240,6 @@ Discordκ°€ μ›Ή 기반의 λ©€ν‹°λ―Έλ””μ–΄ 톡신 λ„κ΅¬μ—μ„œ μ‹œμž‘ν•˜μ—¬ ν˜„μž¬
240
  μ„±κ³Ό ν™œμ„±ν™”μ— 크게 κΈ°μ—¬ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€.
241
  ```
242
 
243
- **개발자의 μž‘λ‹΄**
244
 
245
  Synapse-Model 은 닀쀑 μΆ”λ‘ λŠ₯λ ₯을 κ·ΉλŒ€ν™” ν•˜λŠ” λ°©ν–₯으둜 μ œμž‘λ˜μ—ˆμŠ΅λ‹ˆλ‹€. κ·ΈλŸ¬λ―€λ‘œ κ°„λ‹¨ν•œ μž‘μ—…μ— 닀쀑 좔둠과정을 거쳐 μž‘μ—…νš¨μœ¨μ΄ λ–¨μ–΄μ§ˆ 수 μžˆμŠ΅λ‹ˆλ‹€. μ΄λ•Œ μ—λŠ” instruction 을 `μ•„λž˜ μ§ˆλ¬Έμ— λŒ€ν•΄ 적은 μΆ”λ‘  과정을 거쳐 μ„€λͺ… λ˜λŠ” ν•΄κ²°` 으둜 μ„€μ •ν•΄ μ£Όμ„Έμš”. μ—¬λ‹΄μœΌλ‘œ Synapse-Model 1 은 아직 λ§Žμ€ μž‘μ—…μ„ ν•˜μ§€ λͺ» ν•©λ‹ˆλ‹€. 일단 ν•™μŠ΅ 데이터셋이 맀우 적고, ν•™μŠ΅ν™˜κ²½λ„ μ’‹μ§€ λͺ»ν–ˆκ±°λ“ μš”. λ˜ν•œ κ°œλ°œμ— ν•„μš”ν•œ κΈ°λ°˜μ§€μ‹κ³Ό ν•™μŠ΅ μ‹œκ°„ 전체λ₯Ό λ”°μ Έ 봀을 λ•Œ 1μ£Ό 도 λ„˜μ§€ λͺ» ν–ˆμŠ΅λ‹ˆλ‹€. 그리고 κ°œλ°œμžκ°€ ν•œλͺ…μ΄λ‹ˆ 맀우 νž˜λ“€μ£ . κ·Έλž˜λ„ 첫 μž‘ν’ˆ μΉ˜κ³ λŠ” 잘 μ œμž‘λœ 것 κ°™μŠ΅λ‹ˆλ‹€. 이 μž‘λ‹΄ κΉŒμ§€ 끝 κΉŒμ§€ λ“€μ–΄μ£Όμ‹  μ‚¬μš©μžλΆ„κ»˜ κ°μ‚¬λ“œλ¦½λ‹ˆλ‹€. μ•žμœΌλ‘œ λ°œμ „ν•˜λŠ” Synapse-Model Team λ³΄μ—¬λ“œλ¦¬κ² μŠ΅λ‹ˆλ‹€.
 
20
 
21
  **μ €μž**: Synapse-Model Team
22
 
23
+ # **λͺ¨λΈμ— λŒ€ν•œ 정보**
24
 
25
  Synapse-Model 1 의 μž…λ ₯, 좜λ ₯, μž₯단점 에 λŒ€ν•œ μ„€λͺ…μž…λ‹ˆλ‹€.
26
 
 
44
  - λ¬Έμ„œ μš”μ•½
45
  - μž…λ ₯으둜 인해 μƒμ„±λœ 응닡 ν…μŠ€νŠΈ
46
 
47
+ # **μ‚¬μš©λ°©λ²•**
48
 
49
  이 λ‹€μŒμ€ λͺ¨λΈμ„ λΉ λ₯΄κ²Œ μ‹€ν–‰ν•˜λŠ” 방법에 λŒ€ν•œ λͺ‡κ°€μ§€ μ½”λ“œμ˜ˆμ‹œ 및 μ£Όμ˜μ‚¬ν•­μ΄ μžˆμŠ΅λ‹ˆλ‹€. λ¨Όμ €, transformers 라이브러리λ₯Ό μ΅œμ‹  λ²„μ „μœΌλ‘œ μ—…κ·Έλ ˆμ΄λ“œ λ˜λŠ” μ„€μΉ˜ ν•΄μ•Ό ν•©λ‹ˆλ‹€.(LFM2 에 쒅속됨) `pip install "transformers @ git+https://github.com/huggingface/transformers.git@main".`
50
 
 
92
  )
93
  ```
94
 
95
+ # **λͺ¨λΈ 데이터**
96
 
97
  λͺ¨λΈ ν•™μŠ΅μ— μ‚¬μš©λœ ν•™μŠ΅ 데이터셋
98
 
 
114
 
115
  Unsolth 및 Google Colab(Tesla T4) 을 μ‚¬μš©ν•˜μ—¬ 총 ν•™μŠ΅μ— μ•½ 4μ‹œκ°„μ΄ κ±Έλ ΈμŠ΅λ‹ˆλ‹€.
116
 
117
+ # **λͺ¨λΈμ‚¬μš© 및 μ œν•œμ‚¬ν•­**
118
 
119
  λͺ¨λΈμ˜ μ‚¬μš©μ„ μœ„ν•΄ μ§€μΌœμ•Όν•  μ œν•œμ‚¬ν•­μ΄ μžˆμŠ΅λ‹ˆλ‹€.
120
 
 
141
  - Synapse-Model 은 ν•™μŠ΅λ°μ΄ν„°λ₯Ό 기반으둜 응닡을 μƒμ„±ν•˜λ―€λ‘œ λͺ¨λΈμ€ λΆ€μ ν™•ν•˜κ±°λ‚˜ 였래된 정보λ₯Ό 기반으둜 응닡을 생성할 수 μžˆμŠ΅λ‹ˆλ‹€. (이λ₯Ό ν•΄κ²°ν•˜κΈ° μœ„ν•΄μ„  Rag λ˜λŠ” Fine-Tuning 이 ν•„μš”ν•¨)
142
 
143
 
144
+ # **λͺ¨λΈμΆœλ ₯ 미리보기**
145
  ```markdown
146
  instruction: μ•„λž˜ μ§ˆλ¬Έμ— λŒ€ν•΄ ν•΄κ²°
147
  input: Discord 에 λŒ€ν•΄ μ„€λͺ…ν•΄μ€˜μš”
 
240
  μ„±κ³Ό ν™œμ„±ν™”μ— 크게 κΈ°μ—¬ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€.
241
  ```
242
 
243
+ # **개발자의 μž‘λ‹΄**
244
 
245
  Synapse-Model 은 닀쀑 μΆ”λ‘ λŠ₯λ ₯을 κ·ΉλŒ€ν™” ν•˜λŠ” λ°©ν–₯으둜 μ œμž‘λ˜μ—ˆμŠ΅λ‹ˆλ‹€. κ·ΈλŸ¬λ―€λ‘œ κ°„λ‹¨ν•œ μž‘μ—…μ— 닀쀑 좔둠과정을 거쳐 μž‘μ—…νš¨μœ¨μ΄ λ–¨μ–΄μ§ˆ 수 μžˆμŠ΅λ‹ˆλ‹€. μ΄λ•Œ μ—λŠ” instruction 을 `μ•„λž˜ μ§ˆλ¬Έμ— λŒ€ν•΄ 적은 μΆ”λ‘  과정을 거쳐 μ„€λͺ… λ˜λŠ” ν•΄κ²°` 으둜 μ„€μ •ν•΄ μ£Όμ„Έμš”. μ—¬λ‹΄μœΌλ‘œ Synapse-Model 1 은 아직 λ§Žμ€ μž‘μ—…μ„ ν•˜μ§€ λͺ» ν•©λ‹ˆλ‹€. 일단 ν•™μŠ΅ 데이터셋이 맀우 적고, ν•™μŠ΅ν™˜κ²½λ„ μ’‹μ§€ λͺ»ν–ˆκ±°λ“ μš”. λ˜ν•œ κ°œλ°œμ— ν•„μš”ν•œ κΈ°λ°˜μ§€μ‹κ³Ό ν•™μŠ΅ μ‹œκ°„ 전체λ₯Ό λ”°μ Έ 봀을 λ•Œ 1μ£Ό 도 λ„˜μ§€ λͺ» ν–ˆμŠ΅λ‹ˆλ‹€. 그리고 κ°œλ°œμžκ°€ ν•œλͺ…μ΄λ‹ˆ 맀우 νž˜λ“€μ£ . κ·Έλž˜λ„ 첫 μž‘ν’ˆ μΉ˜κ³ λŠ” 잘 μ œμž‘λœ 것 κ°™μŠ΅λ‹ˆλ‹€. 이 μž‘λ‹΄ κΉŒμ§€ 끝 κΉŒμ§€ λ“€μ–΄μ£Όμ‹  μ‚¬μš©μžλΆ„κ»˜ κ°μ‚¬λ“œλ¦½λ‹ˆλ‹€. μ•žμœΌλ‘œ λ°œμ „ν•˜λŠ” Synapse-Model Team λ³΄μ—¬λ“œλ¦¬κ² μŠ΅λ‹ˆλ‹€.