์ํฐํ๋ผ์ด์ฆ AI์ TCO๋ฅผ ๋ฎ์ถ๊ณ ๊ณ ๊ธ ์ถ๋ก ๊ธฐ๋ฅ์ ํ์ฉํ์ธ์.
์ค๋ ์ฐ๋ฆฌ๋ DeepSeek-R1์ด Capella AI Services์ ํตํฉ๋์์ผ๋ฉฐ, ๋ฏธ๋ฆฌ ๋ณด๊ธฐ๊ฐ ๊ฐ๋ฅํจ์ ๊ธฐ์๊ฒ ์๋ ค๋๋ฆฝ๋๋ค! ์ด ๊ฐ๋ ฅํ ๋์คํ ๋ฆฌํธ ๋ชจ๋ธ์ Llama 8B๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ์ฌ ๊ณ ๊ธ ์ถ๋ก ๊ธฐ๋ฅ์ ๊ฐ์ถ ์์ด์ ํธ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ตฌ์ถํ ์ ์๋ ๋ฅ๋ ฅ์ ํฅ์์ํค๊ณ ๋์์ ๊ฐ์ธ์ ๋ณด ๋ณดํธ ๊ท์ ์ ์ค์ํฉ๋๋ค.
์ด ๋ธ๋ก๊ทธ์์๋ ๊ธฐ์ ๊ฒ์ ๋ฐ ์ง์ ๊ด๋ฆฌ ๊ธฐ๋ฅ์ ๊ฐํํ๊ธฐ ์ํด ์ฑ๋ด์ ๊ตฌ์ถํ์ฌ ์ด๋ฌํ ๋ชจ๋ธ์ ํ์ฉํ๋ ๋ฐฉ๋ฒ์ ๋ณด์ฌ๋๋ฆฌ๊ฒ ์ต๋๋ค. DeepSeek์ ๊ฐ๋ ฅํ ์ถ๋ก ๊ธฐ๋ฅ ๋๋ถ์ ์กฐ์ง์ ๋ค์๊ณผ ๊ฐ์ ๊ฐ์ ์ ์ด๋ฃฐ ์ ์์ต๋๋ค.
- ๋ฒ์ ๋ฐ ๊ท์ ์ค์ ๊ฒํ
- ๊ณ ๊ฐ ์ง์ ์๋ํ
- ๊ธฐ์ ์ ๋ฌธ์ ํด๊ฒฐ
์ด ๋ฐ๋ชจ์์๋ DeepSeek Distill-Llama-3-8B, ํ์ง๋ง GA์ Capella AI Services๋ ๋ชจ๋ธ์ ๊ณ ์ ๋ฐ ๋ณํ ๋ฒ์ ์ ๋์ ํ์ฌ ์ฌ์ฉ์์ ๊ธฐ๋ฅ์ ๋์ฑ ํ์ฅํ ๊ณํ์ ๋๋ค.
๐ DeepSeek-R1์ ํ ์คํธํด๋ณด๊ณ ์ถ์ผ์ ๊ฐ์? ํ์ธํด ๋ณด์ธ์ ์นดํ ๋ผ AI ์๋น์ค ๋๋ ๊ฐ์ ํ๊ธฐ ๋น๊ณต๊ฐ ๋ฏธ๋ฆฌ๋ณด๊ธฐ.
๋ฅ์์น ๋ชจ๋ธ ์ดํดํ๊ธฐ
์ฆ๋ฅ ๋ฐฉ์
DeepSeek Distill-Llama-3-8B ์ฌ์ฉํ์ฌ ํ๋ จ๋์์ต๋๋ค. ์ง์์ ์ฆ๋ฅ, ๊ทธ๊ณณ์์ ๋ํ ๊ต์ฌ ๋ชจ๋ธ (DeepSeek-R1) ํ๋ จ์ ์ง๋๋ฅผ ๋ด๋นํฉ๋๋ค. ์๊ณ ํจ์จ์ ์ธ ํ์์ฉ ๋ชจ๋ธ (Llama 3 8B). ์ด๋ ๋ค์๊ณผ ๊ฐ์ ๊ฒฐ๊ณผ๋ฅผ ์ด๋ํฉ๋๋ค. ์ฝคํฉํธํ๋ฉด์๋ ๊ฐ๋ ฅํ ๋ชจ๋ธ ์ด๋ ๊ณ์ฐ ๋น์ฉ์ ์ค์ด๋ฉด์๋ ๊ฐ๋ ฅํ ์ถ๋ก ๋ฅ๋ ฅ์ ์ ์งํฉ๋๋ค.
๋ฐ์ดํฐ ์ธํธ: BEIR ๊ธฐ๋ฐ์ ๋น๊ต ๋ถ์
์ฐ๋ฆฌ๋ ์ด ๋ชจ๋ธ์ ์ถ๋ก ๋ฅ๋ ฅ์ ํ๊ฐํ๊ณ ์์ต๋๋ค. BEIR ๋ฐ์ดํฐ ์ธํธ, ์ด๋ ์ ๊ณ ํ์ค ๊ธฐ์ค์ ๋๋ค. ํ์ ๊ธฐ๋ฐ ์ถ๋ก . ๋ฐ์ดํฐ ์ธํธ๋ ๋ค์์ ๊ตฌ์ฑ์ผ๋ก ๋์ด ์์ต๋๋ค. 75K๊ฐ์ ๋ฌธ์ ๋ค์ํ ๋ถ์ผ์์ ๋ค์๊ณผ ๊ฐ์ ๊ตฌ์กฐ๋ก ๊ตฌ์ฑ๋ฉ๋๋ค:
|
1 2 3 4 5 6 |
{ ย ย ย ย โ_idโ: โ632589828c8b9fca2c3a59e97451fde8fa7d188dโ, ย ย ย ย โtitleโ: โ๋ฐ๋ณต์ ๋คํธ์ํฌ ์ค๊ณ์ ๋ํ ์ ์ ์๊ณ ๋ฆฌ์ฆ๊ณผ ์
์ ์์ง์ฒด ์ต์ ํ์ ์ตํฉโ, ย ย ย ย โํ
์คํธโ: โ์ด ๋
ผ๋ฌธ์์๋ ์๋ก์ด ์งํํ์ต ์๊ณ ๋ฆฌ์ฆ์ ์ฌ์ฉํ์ฌ ๋ฐ๋ณต ์ ๊ฒฝ๋ง/๋ถํฌ๋ช
์ ๊ฒฝ๋ง์ ์ค๊ณ ์๋ํ๋ฅผ ์คํํ๋ ์งํ์ ๋ฐ๋ณต ๋คํธ์ํฌ๊ฐ ์ ์๋๋คโฆโ, ย ย ย ย โ์ง์โ: โgappso๋ ๋ฌด์์ธ๊ฐ?โ } |
๋ชจ๋ธ์ ๋ฅ๋ ฅ์ ๊ฒฐ์ ์ ์ํด ๊ฒ์ฆ๋ฉ๋๋ค. ์ด๋ค ๋ฌธ์๋ค์ด ํน์ ์ง๋ฌธ์ ๋ํ ์ฌ๋ฐ๋ฅธ ๋ต์ ํฌํจํ๊ณ ์๋๊ฐ, ์ด๋ ๊ทธ๋ค์ ๋ ผ๋ฆฌ๋ ฅ์ ๋ณด์ฌ์ฃผ๋ ๊ฒ์ ๋๋ค.
์์ํ๊ธฐ: Capella AI Services์์ DeepSeek๋ฅผ ๋ฐฐํฌํ๊ธฐ
๋จ๊ณ 1: ๋ฌธ์๋ฅผ ์์งํ๊ธฐ
์ด์ Capella AI ์๋น์ค๋ฅผ ์ฌ์ฉํ์ฌ ๋น์ ํ ๋ฌธ์์ ์ ํ ๋ฌธ์์ ๋ํ ๋ฒกํฐ ์๋ฒ ๋ฉ์ ์์ฑํ ์ ์์ต๋๋ค. ๋จผ์ BEIR ๋ฐ์ดํฐ ์ธํธ์ ์ ํ ๋ฌธ์๋ค์ couchbase ์ปฌ๋ ์ ์ผ๋ก ๊ฐ์ ธ์ค๊ณ , ๊ทธ ๋ค์ Vectorization ์ํฌํ๋ก์ฐ๋ฅผ ์ ์ฉํฉ๋๋ค.
Couchbase Capella์์ ๊ฒ์ ๋ฐ ์ด๋ฒคํธ ๊ธฐ๋ฅ์ด ํ์ฑํ๋ ์ํ์์ 5๋ ธ๋(๋๋ ๊ทธ ์ด์์) ์ด์ ๋ฐ์ดํฐ๋ฒ ์ด์ค ํด๋ฌ์คํฐ๋ฅผ ์ค์ ํ์ธ์. ์ฌ์ ๊ตฌ์ฑ๋ ๋ค์ค ๋ ธ๋ ๋ฐฐํฌ ์ต์ ์ ํ์ฉํ๊ฑฐ๋ ๋ง์ถคํ ๊ตฌ์ฑ์ ๋ง๋ค ์ ์์ต๋๋ค.
ํด๋ฌ์คํฐ๋ฅผ ๋ฐฐํฌํ ํ์๋ ๋ค์์ผ๋ก ์ด๋ํ์ธ์. ์์ ํญ ์๋์ ๋ฐ์ดํฐ ๋๊ตฌ ์น์ ์ ์ ํํ๊ณ ๊ฐ์ ธ์ค๊ธฐ ์ต์ ์ ํด๋ฆญํฉ๋๋ค. ๋์ฉ๋ ๋ฐ์ดํฐ ์ธํธ๋ฅผ ์ฌ์ฉํ๋ ค๋ฉด cb-import ํจ์.
์ด์ ํด๋ฌ์คํฐ์ ์ถ๊ฐ ๋ฒํท, ๋ฒ์ ๋ฐ ์ปฌ๋ ์
์ ์ค์ ํฉ๋๋ค. ์ด ๋ฒํท, ๋ฒ์ ๋ฐ ์ปฌ๋ ์
์ ๋์ค์ ๋ํํ ์บ์์ ์ ์ฅ์๋ก ์ฌ์ฉํ ์์ ์
๋๋ค.
2๋จ๊ณ: ์๋ฒ ๋ฉ ๋ชจ๋ธ ์ค์
Capella AI ์๋น์ค ํญ์ ๋ชจ๋ธ ํญ์ผ๋ก ๋์๊ฐ๋๋ค. ๋ชจ๋ธ ์๋น์ค ๋ค์ ์ต์ ์ ์ ํํ๊ธฐ ์ ์ ํ์ผ์ ์ ํํ์ธ์:
3๋จ๊ณ: ๋ฒกํฐํ ์ํฌํ๋ก ์ค์
์ด์ ๋ฌธ์๊ฐ ์์ง๋์์ผ๋ฏ๋ก ๋ฒกํฐํ ์ํฌํ๋ก๋ฅผ ๋ฐฐํฌํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์์ธํ ๋ด์ฉ์ ์ด ๊ฒ์๋ฌผ์ ์ฐธ์กฐํ์ธ์.
์ํฌํ๋ก ์ด๋ฆ์ ์ง์ ํ๊ณ ์์ง๋ ๋ฌธ์๋ฅผ ํฌํจํ๋ ์ปฌ๋ ์ ์ ์ง์ ํฉ๋๋ค.
์ด์ ๋จ๊ณ์์ ๋ฐฐํฌ๋ ์๋ฒ ๋ฉ ๋ชจ๋ธ์ ์ ํํฉ๋๋ค.
์์ฑ๋ ๋ฒกํฐ๊ฐ ์ฝ์ ๋ ํ๋์ ์ด๋ฆ์ ์ง์ ํ๊ณ , ๊ทธ ์์ ๊ตฌ์ถ๋ ์ธ๋ฑ์ค์ ์ด๋ฆ์ ์ง์ ํฉ๋๋ค:
4๋จ๊ณ: DeepSeek ๋ชจ๋ธ ์ค์
Capella AI ์๋น์ค ์น์ ์ผ๋ก ๋์๊ฐ์ ๋ชจ๋ธ ํญ์ ํด๋ฆญํ๊ณ ๋ชจ๋ธ ์๋น์ค ๋ค์ ์ต์ ์ ์ ํํ๊ธฐ ์ ์ ํ์ผ์ ์ ํํ์ธ์:
๋๋กญ๋ค์ด์์ ์ด์ ์ ๋ง๋ ์ด์ ๋ฐ์ดํฐ๋ฒ ์ด์ค ํด๋ฌ์คํฐ๋ฅผ ์ ํํ๊ณ Capella๋ฅผ ์ ํํ์ธ์. ์์ ๋ชจ๋ธ ๋๋กญ๋ค์ด์์ ์ธ์คํด์ค๋ฅผ ๊ณ์ฐํ๊ณ DeepSeek Distill-LLama-3-8B๋ฅผ ์ ํํฉ๋๋ค.
๋ฒํท ๋ฒ์ ์ปฌ๋ ์ ์ ์ ํํ๊ณ ํ์ธ๋์ ์ ํํ์ฌ ์บ์๋ฅผ ๊ตฌ์ฑํฉ๋๋ค. ๋ํํ ์บ์ฑ ๋ฐ์ค.
DeepSeek๋ฅผ ์ด์ฉํ ์ ํ๋ฆฌ์ผ์ด์ ๊ตฌ์ถ
๋จ๊ณ 1: ์ ํ๋ฆฌ์ผ์ด์ ์ด ๋ฐ์ดํฐ์ ์ก์ธ์คํ ์ ์๋๋ก ์ค์ ํ๊ธฐ
์ด์ DB์ ๋ฌธ์๋ฅผ ์ก์ธ์คํ๊ธฐ ์ํด IP ์ฃผ์๊ฐ ๋ชฉ๋ก์ ์ถ๊ฐ๋์๋์ง ํ์ธํ์ธ์. ์ด๋ฅผ ์ํด์๋ ์ฐ๊ฒฐํ๊ธฐย ์ด์ ๋ง๋ค์ด์ง ์ด์ ํด๋ฌ์คํฐ์ ํญ์ ๋๋ค.
2๋จ๊ณ: ์ ํ๋ฆฌ์ผ์ด์ ์คํ
์ ๊ณต๋ ์์๋ฅผ ์ฌ์ฉํ์ธ์. ์ฌ๊ธฐ BEIR ๋ฐ์ดํฐ ์ธํธ์ ๋ฌธ์๋ค์ ์ด์ ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ์ ์ฅํ๊ณ ๊ทธ ๋ค์ ์ด์ ๋ํ ์๋ต์ ์์ฑํ๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ์ค์ ํฉ๋๋ค. ๊ธฐ๋ณธ 64์ฝ๋ฉ๋ DB ์๊ฒฉ ์ฆ๋ช ๊ณผ ๋ชจ๋ธ ์๋ํฌ์ธํธ๋ฅผ ์ฌ๋ฐ๋ฅด๊ฒ ์ง์ ํ์๊ธฐ ๋ฐ๋๋๋ค. ๋ชจ๋ธ ์๋ํฌ์ธํธ๋ฅผ ์ฐพ์ผ๋ ค๋ฉด AI ์๋น์ค -> ๋ชจ๋ธ ๊ทธ๋ฆฌ๊ณ ์๋์ชฝ ํ์ดํ ๋ฒํผ์ ํด๋ฆญํ๋ฉด ๋ชจ๋ธ ์ค์ ์ด ํ์๋ฉ๋๋ค.
3 ๋จ๊ณ: DeepSeek-R1-Distill-Llama-8B์ ์ฑ๋ฅ ์ํ
๋ชจ๋ธ์ ์์ ์ฟผ๋ฆฌ๋ฅผ ๋ณด๋ด๊ณ ๊ฒฐ๊ณผ๋ฅผ ํ์ธํฉ๋๋ค. ๋ชจ๋ธ์ ์๋ต์ ๊ฒ์ฆํ ํ์๋ ์ ์ฒด ๋ฐ์ดํฐ ์ธํธ๋ฅผ ๋ชจ๋ธ์ ์ ์ฉํ ์ ์์ต๋๋ค.
๋ค์ ๋จ๊ณ
- ๐ DeepSeek-R1์ ๋ํ ์กฐ๊ธฐ ์ก์ธ์ค ๋ฐ๊ธฐ โ ๋๊ธฐ ๋ชฉ๋ก์ ๊ฐ์ ํ์ธ์
- ๐ ๋ฅ์์น ๋ชจ๋ธ์ ๋ํ ๋ ์์ธํ ์ ๋ณด ์ฝ๊ธฐ โ ๋ฅ์น์ค ์ฐ๊ตฌ ๋ ผ๋ฌธ
- ๐ BEIR ๋ฐ์ดํฐ ์ธํธ๋ฅผ ํ์ํ์ธ์ โ BEIR ๊ณต์ ๋ฆฌํฌ์งํ ๋ฆฌ
Capella AI Services๋ ์ต์์ ๋ชจ๋ธ์ ๊ธฐ๋ฐ์ผ๋ก AI ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ตฌ์ถํ๋ ๋ฐ ๋์์ ๋๋ฆฝ๋๋ค. ํจ๊ป ํ์ ํด ๋ด ์๋ค!













๋๊ธ ๋จ๊ธฐ๊ธฐ
๋๊ธ์ ๋ฌ๊ธฐ ์ํด์๋ ๋ก๊ทธ์ธํด์ผํฉ๋๋ค.