เบเบตเปเปเบกเปเบเปเบญเบฑเบ Linux เบเบตเปเบกเบตเบเบทเปเบงเปเบฒ CTranslate2 เปเบเบดเปเบเบฅเบธเปเบเบซเบผเปเบฒเบชเบธเบเบชเบฒเบกเบฒเบเบเบฒเบงเปเบซเบผเบเปเบเปเปเบเบฑเบ CTranslate23.20.0.zip. เบกเบฑเบเบชเบฒเบกเบฒเบเบเปเบฒเปเบเบตเบเบเบฒเบเบญเบญเบเปเบฅเบเปเบขเบนเปเปเบ OnWorks เบเบนเปเปเบซเปเบเปเบฅเบดเบเบฒเบเปเบฎเบเบเบดเปเบเบเบฃเบตเบชเปเบฒเบฅเบฑเบเบเปเบญเบเปเบฎเบฑเบเบงเบฝเบ.
เบเบฒเบงโเบโเปโเปเบซเบฅเบโเปเบฅเบฐโเบเปเบฒโเปเบเบตเบโเบเบฒเบโเบญเบญเบโเปเบฅโเบโเป app เบเบตเปโเบกเบตโเบเบทเป CTranslate2 เบเบฑเบ OnWorks เปเบเปโเบเบฃเบตโ.
เบเบฐเบเบดเบเบฑเบเบเบฒเบกเบเปเบฒเปเบเบฐเบเปเบฒเปเบซเบผเบปเปเบฒเบเบตเปเปเบเบทเปเบญเบเปเบฒเปเบเบตเบเบเบฒเบ app เบเบตเป:
- 1. เบเบฒเบงโเปเบซเบผเบโเบเปเบฒโเบฎเปเบญเบโเบชเบฐโเบซเบกเบฑเบโเบเบตเปโเปเบ PC เบเบญเบโเบเปเบฒเบโ.
- 2. เปเบชเปเปเบเบเบปเบงเบเบฑเบเบเบฒเบเปเบเบฅเปเบเบญเบเบเบงเบเปเบฎเบปเบฒ https://www.onworks.net/myfiles.php?username=XXXXX เบเปเบงเบเบเบทเปเบเบนเปเปเบเปเบเบตเปเบเปเบฒเบเบเปเบญเบเบเบฒเบ.
- 3. เบญเบฑเบเปเบซเบฅเบเปเบญเบฑเบเบเบฅเบดเปเบเบเบฑเบเบเบตเปเบขเบนเปเปเบเบเบปเบงเบเบฑเบเบเบฒเบเปเบเบฅเปเบเบฑเปเบเบเปเบฒเบง.
- 4. เปเบฅเบตเปเบก OnWorks Linux เบญเบญเบเบฅเบฒเบ เบซเบผเบท Windows online emulator เบซเบผเบท MACOS online emulator เบเบฒเบเปเบงเบฑเบเปเบเบเปเบเบตเป.
- 5. เบเบฒเบ OnWorks Linux OS เบเบตเปเปเบเบปเปเบฒเบซเบฒเบเปเปเปเบฅเบตเปเบกเบเบปเปเบ, เปเบเบเบตเปเบเบปเบงเบเบฑเบเบเบฒเบเปเบเบฅเปเบเบญเบเบเบงเบเปเบฎเบปเบฒ https://www.onworks.net/myfiles.php?username=XXXXX เบเปเบงเบเบเบทเปเบเบนเปเปเบเปเบเบตเปเบเปเบฒเบเบเปเบญเบเบเบฒเบ.
- 6. เบเบฒเบงเบเปเปเบซเบฅเบเบเปเบฒเบฎเปเบญเบเบชเบฐเบซเบกเบฑเบ, เบเบดเบเบเบฑเปเบเบกเบฑเบเปเบฅเบฐเบเปเบฒเปเบเบตเบเบเบฒเบ.
เปเปเบฒ เบเป
Ad
CTranslate2
เบฅเบฒเบเบฅเบฐเบญเบฝเบ
CTranslate2 เปเบเบฑเบเบซเปเบญเบเบชเบฐเปเบธเบ C ++ เปเบฅเบฐ Python เบชเบณเบฅเบฑเบเบเบฒเบเบเบฐเปเบกเบตเบเบเบฐเบชเบดเบเบเบดเบเบฒเบเบเบฑเบเบเบปเบงเปเบเบ Transformer. เปเบเบโเบเบฒเบโเบเบฑเปเบโเบเปเบฒเบงโเบเบฐโเบเบดโเบเบฑเบโเบเบฒเบโเปเบฅเปเบโเบเบตเปโเบเปเบฒโเบเบปเบโเปเบญเบโเบเบตเปโเบเปเบฒโเปเบเปโเปเบเบฑเบโเบเบดเบโเบเบฒเบโเบเบฑเบโเบเบฐโเบชเบดเบโเบเบดโเบเบฒเบโเบเปเบฒโเบเบงเบโเบซเบผเบฒเบโเปเบเบฑเปเบโ: quantization เบโเปโเปเบฒโเบซเบเบฑเบโ, layer fusionโ, reordering batchโ, เปเบฅเบฐโเบญเบทเปเบเปโ, เปเบเบทเปเบญโเปเบฅเบฑเปเบโเปเบฅเบฐโเบซเบผเบธเบโเบเปเบญเบโเบเบฒเบโเบเปเบฒโเปเบเปโเบซเบเปเบงเบโเบเบงเบฒเบกโเบเปเบฒโเบเบญเบโเบเบปเบงโเปเบเบ Transformer เปเบ CPU เปเบฅเบฐ GPUโ. เบเบฒเบเบเบฐเบเบดเบเบฑเบเปเบกเปเบเปเบงเบเบถเปเบเบขเปเบฒเบเบซเบผเบงเบเบซเบผเบฒเบเปเบฅเบฐเบเปเบญเบเบเบฒเบเบเบฑเบเบเบฐเบเบฒเบเบญเบเบซเบเปเบญเบเบเบงเปเบฒเบเบญเบเบเบฒเบเบฎเบฝเบเบฎเบนเปเปเบฅเบดเบเปเบเบดเปเบเปเบเบเบเบปเปเบงเปเบเบเปเบฝเบงเบเบฑเบเบเบปเบงเปเบเบเบเบตเปเบชเบฐเบซเบเบฑเบเบชเบฐเบซเบเบนเบเปเบฅเบฐเบซเบเปเบฒเบงเบฝเบเบเปเบญเบเบเบฒเบเปเบเบตเปเบกเบเบฐเบชเบดเบเบเบดเบเบฒเบเบเบฑเปเบเบชเบนเบเบซเบผเบฒเบ: layer fusion, padding removing, batch reordering, in-place operation, caching mechanism, etc. The model serialization and เบฎเบญเบเบฎเบฑเบเบเบฒเบเบเบดเบเปเบฅเปเบเปเบณเปเบฑเบเบเปเบงเบเบเบงเบฒเบกเปเบกเปเบเบเปเบฒ: เบเบธเบเบฅเบญเบ 16-เบเบดเบ (FP16), 16-bit integers (INT16), เปเบฅเบฐ 8-bit integers (INT8). เปเบเบเบเบฒเบเบเบตเปเบชเบฐเบซเบเบฑเบเบชเบฐเบซเบเบนเบเปเบเปเบเบเปเบเบต x86-64 เปเบฅเบฐ AArch64/ARM64 เปเบฅเบฐเบเบฐเบชเบปเบกเบเบฐเบชเบฒเบ backends เบซเบผเบฒเบเบญเบฑเบเบเบตเปเปเบซเบกเบฒเบฐเบชเปเบฒเบฅเบฑเบเปเบงเบเบตเปเบซเบผเบปเปเบฒเบเบตเป: Intel MKL, oneDNN, OpenBLAS, Ruy, เปเบฅเบฐ Apple Accelerate.
เบเบธเบโเบฅเบฑเบโเบชเบฐโเบเบฐ
- เบเบปเบงเปเบเบเปเบเบปเปเบฒเบฅเบฐเบซเบฑเบเบเบปเบงเบเบญเบเบฅเบฐเบซเบฑเบเบฎเบญเบเบฎเบฑเบ
- เบฎเบญเบเบฎเบฑเบ GPT-2, GPT-J, GPT-NeoX, OPT, BLOOM
- เบเบฒเบเบเบงเบเบซเบฒ CPU เบญเบฑเบเบเบฐเปเบเบกเบฑเบเปเบฅเบฐเบเบฒเบเบชเบปเปเบเบฅเบฐเบซเบฑเบ
- เบเบฒเบเบเบฐเบเบดเบเบฑเบเปเบงเปเบฅเบฐเบเบฐเบชเบดเบเบเบดเบเบฒเบเปเบ CPU เปเบฅเบฐ GPU
- เบเบฐเบฅเบดเบกเบฒเบเปเบฅเบฐเบเบงเบฒเบกเปเบกเปเบเบเปเบฒเบซเบผเบธเบเบฅเบปเบ
- เบชเบฐเบเบฒเบเบฑเบเบเบฐเบเบฐเบเปเบฒ CPU เบซเบผเบฒเบเบชเบฐเบซเบเบฑเบเบชเบฐเบซเบเบนเบ
- เบเบฒเบเบเปเบฒเปเบเปเบซเบเปเบงเบเบเบงเบฒเบกเบเปเบฒเปเบเบเปเบเบเบฒเบกเบดเบ
- เบเบฒเบเบเบฐเบเบดเบเบฑเบเบเบฐเบซเบเบฒเบเปเบฅเบฐ asynchronous
เบเบฒเบชเบฒเบเบฒเบเบเบฝเบเปเบเบฃเปเบเบฃเบก
C ++
เบเบฐเปเบเบ
เบเบตเปเปเบกเปเบเปเบญเบฑเบเบเบฅเบดเปเบเบเบฑเบเบเบตเปเบเบฑเบเบชเบฒเบกเบฒเบเปเบญเบปเบฒเบกเบฒเบเบฒเบ https://sourceforge.net/projects/ctranslate2.mirror/. เบกเบฑเบเปเบเปเบเบทเบเบเบฑเบเบขเบนเปเปเบ OnWorks เปเบเบทเปเบญเปเบซเปเบเปเบฒเปเบเบตเบเบเบฒเบเบญเบญเบเปเบฅเบเปเบเปเบงเบเบงเบดเบเบตเบเบตเปเบเปเบฒเบเบเบตเปเบชเบธเบเบเบฒเบเบซเบเบถเปเบเปเบเบฅเบฐเบเบปเบเบเบฐเบเบดเบเบฑเบเบเบฒเบเบเบฃเบตเบเบญเบเบเบงเบเปเบฎเบปเบฒ.
