์ด๊ฒ์ CTranslate2.zip์ผ๋ก ์ต์ ๋ฆด๋ฆฌ์ค๋ฅผ ๋ค์ด๋ก๋ํ ์ ์๋ CTranslate23.20.0๋ผ๋ Windows ์ฑ์ ๋๋ค. ์ํฌ์คํ ์ด์ ์ฉ ๋ฌด๋ฃ ํธ์คํ ์ ๊ณต์ ์ฒด์ธ OnWorks์์ ์จ๋ผ์ธ์ผ๋ก ์คํํ ์ ์์ต๋๋ค.
OnWorks๊ฐ ํฌํจ๋ CTranslate2๋ผ๋ ์ฑ์ ๋ฌด๋ฃ๋ก ์จ๋ผ์ธ์ผ๋ก ๋ค์ด๋ก๋ํ์ฌ ์คํํ์ธ์.
์ด ์ฑ์ ์คํํ๋ ค๋ฉด ๋ค์ ์ง์นจ์ ๋ฐ๋ฅด์ธ์.
- 1. ์ด ์ ํ๋ฆฌ์ผ์ด์ ์ PC์ ๋ค์ด๋ก๋ํ์ต๋๋ค.
- 2. ํ์ผ ๊ด๋ฆฌ์ https://www.onworks.net/myfiles.php?username=XXXXX์ ์ํ๋ ์ฌ์ฉ์ ์ด๋ฆ์ ์ ๋ ฅํฉ๋๋ค.
- 3. ์ด๋ฌํ ํ์ผ ๊ด๋ฆฌ์์์ ์ด ์์ฉ ํ๋ก๊ทธ๋จ์ ์ ๋ก๋ํฉ๋๋ค.
- 4. ์ด ์น์ฌ์ดํธ์์ ๋ชจ๋ OS OnWorks ์จ๋ผ์ธ ์๋ฎฌ๋ ์ดํฐ๋ฅผ ์์ํ์ง๋ง ๋ ๋์ Windows ์จ๋ผ์ธ ์๋ฎฌ๋ ์ดํฐ๋ฅผ ์์ํฉ๋๋ค.
- 5. ๋ฐฉ๊ธ ์์ํ OnWorks Windows OS์์ ์ํ๋ ์ฌ์ฉ์ ์ด๋ฆ์ผ๋ก ํ์ผ ๊ด๋ฆฌ์ https://www.onworks.net/myfiles.php?username=XXXXX๋ก ์ด๋ํฉ๋๋ค.
- 6. ์ ํ๋ฆฌ์ผ์ด์ ์ ๋ค์ด๋ก๋ํ์ฌ ์ค์นํฉ๋๋ค.
- 7. Linux ๋ฐฐํฌ ์ํํธ์จ์ด ์ ์ฅ์์์ Wine์ ๋ค์ด๋ก๋ํฉ๋๋ค. ์ค์น๊ฐ ์๋ฃ๋๋ฉด ์ฑ์ ๋ ๋ฒ ํด๋ฆญํ์ฌ Wine๊ณผ ํจ๊ป ์คํํ ์ ์์ต๋๋ค. ์ธ๊ธฐ ์๋ Windows ํ๋ก๊ทธ๋จ ๋ฐ ๊ฒ์์ ์ค์นํ๋ ๋ฐ ๋์์ด ๋๋ Wine์ ํตํ ๋ฉ์ง ์ธํฐํ์ด์ค์ธ PlayOnLinux๋ฅผ ์ฌ์ฉํด ๋ณผ ์๋ ์์ต๋๋ค.
Wine์ Linux์์ Windows ์ํํธ์จ์ด๋ฅผ ์คํํ๋ ๋ฐฉ๋ฒ์ด์ง๋ง Windows๊ฐ ํ์ํ์ง ์์ต๋๋ค. Wine์ ๋ชจ๋ Linux ๋ฐ์คํฌํ์์ ์ง์ Windows ํ๋ก๊ทธ๋จ์ ์คํํ ์ ์๋ ์คํ ์์ค Windows ํธํ์ฑ ๊ณ์ธต์ ๋๋ค. ๋ณธ์ง์ ์ผ๋ก Wine์ Windows๊ฐ ํ์ํ์ง ์๊ณ ๋ชจ๋ Windows ์์ฉ ํ๋ก๊ทธ๋จ์ ์คํํ ์ ์๋๋ก Windows๋ฅผ ์ฒ์๋ถํฐ ์ถฉ๋ถํ ๋ค์ ๊ตฌํํ๋ ค๊ณ ํฉ๋๋ค.
์คํฌ๋ฆฐ ์ท
Ad
CTranslate2
๊ธฐ์
CTranslate2๋ Transformer ๋ชจ๋ธ์ ํจ์จ์ ์ธ ์ถ๋ก ์ ์ํ C++ ๋ฐ Python ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ ๋๋ค. ์ด ํ๋ก์ ํธ๋ ๊ฐ์ค์น ์์ํ, ๋ ์ด์ด ์ตํฉ, ๋ฐฐ์น ์ฌ์ ๋ ฌ ๋ฑ๊ณผ โโ๊ฐ์ ๋ค์ํ ์ฑ๋ฅ ์ต์ ํ ๊ธฐ์ ์ ์ ์ฉํ์ฌ CPU ๋ฐ GPU์์ Transformer ๋ชจ๋ธ์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋์ ๊ฐ์ํํ๊ณ ์ค์ด๋ ์ฌ์ฉ์ ์ ์ ๋ฐํ์์ ๊ตฌํํฉ๋๋ค. ๋ ์ด์ด ์ตํฉ, ํจ๋ฉ ์ ๊ฑฐ, ๋ฐฐ์น ์ฌ์ ๋ ฌ, ๋ด๋ถ ์์ , ์บ์ฑ ๋ฉ์ปค๋์ฆ ๋ฑ ๋ค์ํ ๊ณ ๊ธ ์ต์ ํ ๋๋ถ์ ์ง์๋๋ ๋ชจ๋ธ ๋ฐ ์์ ์์ ์คํ์ด ํจ์ฌ ๋ ๋น ๋ฅด๊ณ ๋ฒ์ฉ ๋ฅ ๋ฌ๋ ํ๋ ์์ํฌ๋ณด๋ค ์ ์ ๋ฆฌ์์ค๊ฐ ํ์ํฉ๋๋ค. ์ ๋ฐ๋๊ฐ ๊ฐ์๋ ๊ณ์ฐ ์ง์ ๊ฐ์ค์น: 16๋นํธ ๋ถ๋ ์์์ (FP16), 16๋นํธ ์ ์(INT16) ๋ฐ 8๋นํธ ์ ์(INT8). ์ด ํ๋ก์ ํธ๋ x86-64 ๋ฐ AArch64/ARM64 ํ๋ก์ธ์๋ฅผ ์ง์ํ๊ณ Intel MKL, oneDNN, OpenBLAS, Ruy ๋ฐ Apple Accelerate์ ๊ฐ์ ํ๋ซํผ์ ์ต์ ํ๋ ์ฌ๋ฌ ๋ฐฑ์๋๋ฅผ ํตํฉํฉ๋๋ค.
๊ธฐ๋ฅ
- ์ธ์ฝ๋-๋์ฝ๋ ๋ชจ๋ธ ์ง์
- GPT-2, GPT-J, GPT-NeoX, OPT, BLOOM ์ง์
- ์๋ CPU ๊ฐ์ง ๋ฐ ์ฝ๋ ๋ฐ์ก
- CPU ๋ฐ GPU์์ ๋น ๋ฅด๊ณ ํจ์จ์ ์ธ ์คํ
- ์์ํ ๋ฐ ์ ๋ฐ๋ ๊ฐ์
- ๋ค์ค CPU ์ํคํ ์ฒ ์ง์
- ๋์ ๋ฉ๋ชจ๋ฆฌ ์ฌ์ฉ๋
- ๋ณ๋ ฌ ๋ฐ ๋น๋๊ธฐ ์คํ
ํ๋ก๊ทธ๋๋ฐ ์ธ์ด
C + +
์นดํ ๊ณ ๋ฆฌ
์ด๋ https://sourceforge.net/projects/ctranslate2.mirror/์์๋ ๊ฐ์ ธ์ฌ ์ ์๋ ์ ํ๋ฆฌ์ผ์ด์ ์ ๋๋ค. ๋ฌด๋ฃ ์ด์ ์์คํ ์ค ํ๋์์ ๊ฐ์ฅ ์ฌ์ด ๋ฐฉ๋ฒ์ผ๋ก ์จ๋ผ์ธ์ผ๋ก ์คํํ๊ธฐ ์ํด OnWorks์์ ํธ์คํ ๋์์ต๋๋ค.