Update README.md
Browse files
README.md
CHANGED
@@ -181,6 +181,14 @@ Assistant> ๋ ์ฌ๋ง์ ๋์ง๊ธฐ, ์ฐ๋ฌ๋จ๋ฆฌ๊ธฐ, ๊บพ๊ธฐ ๋ฑ์ ๊ธฐ์ ์ ์ด
|
|
181 |
|
182 |
์ด๋ฌํ ์์๋ค์ ์ฐธ๊ณ ํ์ฌ ๊ฒ์ ๊ธฐ๋ฐ ๋ชจ๋ธ์ ํจ๊ณผ์ ์ผ๋ก ํ์ฉํ ์ ์์ต๋๋ค.
|
183 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
184 |
## ์ฃผ์์ฌํญ
|
185 |
- ๊ฒ์ ์์ง๊ณผ ํจ๊ป ์ฌ์ฉํ ๊ฒฝ์ฐ **QCR์ ๋จผ์ ์คํํ์ฌ ๊ฒ์ ์ฟผ๋ฆฌ๋ฅผ ์์ฑ**ํ ํ, ๊ฒ์๋ ๋ฌธ์ ์ฒญํฌ๋ฅผ ๋ฐํ์ผ๋ก **GEN์ ์คํ**ํด์ผ ํฉ๋๋ค.
|
186 |
- ๊ฒ์๋ ์ฒญํฌ๋ ์ต๋ **512 ํ ํฐ** ๊ธธ์ด์ด๋ฉฐ, ํ์ต ๊ณผ์ ์์ **์ต๋ 5๊ฐ์ ์ฒญํฌ**๋ฅผ ๋ฐ์ํ์์ผ๋ฏ๋ก ์ด์ ๋ง์ถฐ ํ์ฉํ๋ ๊ฒ์ด ์ค์ํฉ๋๋ค.
|
|
|
181 |
|
182 |
์ด๋ฌํ ์์๋ค์ ์ฐธ๊ณ ํ์ฌ ๊ฒ์ ๊ธฐ๋ฐ ๋ชจ๋ธ์ ํจ๊ณผ์ ์ผ๋ก ํ์ฉํ ์ ์์ต๋๋ค.
|
183 |
|
184 |
+
## ํ
์คํธ ๋
ธํธ๋ถ (Colab)
|
185 |
+
|
186 |
+
๊ฐ๋จํ ์ฝ๋๋ฅผ ์คํํด๋ณด๋ ค๋ฉด [test_run.ipynb](https://colab.research.google.com/github/Austin9/gemma-2-9b-it-Ko-RAG/blob/main/test_run.ipynb) ํ์ผ์ Google Colab์์ ๋ฐ๋ก ์ด์ด๋ณด์ธ์.
|
187 |
+
- **๋ฐํ์ ์ ํ**์์ GPU๋ฅผ **T4**๋ก ์ ํํ์ธ์.
|
188 |
+
- ์ ์ฝ๋ฉ ํ์ผ์ 9b ๋ชจ๋ธ ์ถ๋ก ํ์ผ์ด๊ธฐ ๋๋ฌธ์, ๋ชจ๋ธ ๋ก๋ฉ์ 9b -> 2b๋ก ๋ณ๊ฒฝํ๊ณ load_in_4bit ๋ณ์๋ฅผ False๋ก ๋ณ๊ฒฝ ํ ์ฌ์ฉํด์ผํฉ๋๋ค.
|
189 |
+
- ์ดํ, **์
์ ์์๋๋ก ์คํ**ํ๋ฉฐ ํ์ํ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ค์นํ๊ณ ๋ชจ๋ธ ๋ฐ FAISS ์ธ๋ฑ์ค๋ฅผ ๋ก๋ํฉ๋๋ค.
|
190 |
+
- ์์ฑ๋ RAG ๊ธฐ๋ฐ ์ฑ๋ด ์์ ์ฝ๋๋ฅผ ์ฒดํํ ์ ์์ต๋๋ค.
|
191 |
+
|
192 |
## ์ฃผ์์ฌํญ
|
193 |
- ๊ฒ์ ์์ง๊ณผ ํจ๊ป ์ฌ์ฉํ ๊ฒฝ์ฐ **QCR์ ๋จผ์ ์คํํ์ฌ ๊ฒ์ ์ฟผ๋ฆฌ๋ฅผ ์์ฑ**ํ ํ, ๊ฒ์๋ ๋ฌธ์ ์ฒญํฌ๋ฅผ ๋ฐํ์ผ๋ก **GEN์ ์คํ**ํด์ผ ํฉ๋๋ค.
|
194 |
- ๊ฒ์๋ ์ฒญํฌ๋ ์ต๋ **512 ํ ํฐ** ๊ธธ์ด์ด๋ฉฐ, ํ์ต ๊ณผ์ ์์ **์ต๋ 5๊ฐ์ ์ฒญํฌ**๋ฅผ ๋ฐ์ํ์์ผ๋ฏ๋ก ์ด์ ๋ง์ถฐ ํ์ฉํ๋ ๊ฒ์ด ์ค์ํฉ๋๋ค.
|