Dongwookss
commited on
Update README.md
Browse files
README.md
CHANGED
@@ -14,6 +14,15 @@ tags:
|
|
14 |
![image/png](https://cdn-uploads.huggingface.co/production/uploads/66305fd7fdd79b4fe6d6a5e5/7UDKdaPfBJnazuIi1cUVw.png)
|
15 |
|
16 |
|
17 |
-
- **
|
18 |
-
|
19 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
14 |
![image/png](https://cdn-uploads.huggingface.co/production/uploads/66305fd7fdd79b4fe6d6a5e5/7UDKdaPfBJnazuIi1cUVw.png)
|
15 |
|
16 |
|
17 |
+
- **Base Model :** 'HuggingFaceH4/zephyr-7b-beta'
|
18 |
+
|
19 |
+
|
20 |
+
- **Purpose :** '์ผ๋ง๋ ์ง ๋ฌผ์ด๋ณด์ธ์~! ํํ!'์ด ๋ง ๋์ ๋ถ์ผ๋ฉฐ 'ํด์'์ฒด๋ฅผ ์ฌ์ฉํ๋ ์ฑ๋ด์ ๊ตฌํํ๋ ค๊ณ ํ๋ค. ํ๋ก์ ํธ ๋ชฉ์ ์ RAG๋ฅผ ํตํด ํ์ด ๋๋ฉ์ธ์ ๋ํ ์ ๋ณด๋ฅผ ์ ๊ณตํ๋ 'ํํ์ด' ์ปจ์
์ด๊ธฐ์ ๋งํฌ ์ค์ ์ด ์ด์ ๊ฐ๋ค.
|
21 |
+
|
22 |
+
|
23 |
+
- **Method :** Unsloth ํจํค์ง๋ฅผ ์ฌ์ฉํ์ฌ gpu ์์์ด ์ด๊ณผ๋์ง ์๋๋ก ํ์์ผ๋ฉฐ SFTrainer๋ฅผ ์ฌ์ฉํ์ฌ ๋ชจ๋ธํ๋ จ์ ์งํํจ.
|
24 |
+
|
25 |
+
|
26 |
+
- **Environ :** Colab L4 GPU๋ฅผ ์ฌ์ฉํ์ฌ ์งํํ์์ต๋๋ค.
|
27 |
+
|
28 |
+
- **About gguf :** ํํ์ด ์ต์ข
๋ฒ์ ์ ๋ง๋ค๊ธฐ ์ํด ๊ฐ ๋จ๊ณ๋ณ ๋ชจ๋ธ์ ์ ์ฅํ์์ต๋๋ค. ๋ชจ๋ธ **์์ํ(Quantize)** ์ข
๋ฅ๋ก F16, Q8_0, Q5_K_M 3๊ฐ์ง๋ก ์ ์ฅํ์์ต๋๋ค.
|