यह CTranslate2 नाम का Linux ऐप है जिसकी नवीनतम रिलीज़ को CTranslate23.20.0.zip के रूप में डाउनलोड किया जा सकता है। इसे वर्कस्टेशन के लिए मुफ्त होस्टिंग प्रदाता ऑनवर्क्स में ऑनलाइन चलाया जा सकता है।
CTranslate2 नाम के इस ऐप को OnWorks के साथ मुफ्त में ऑनलाइन डाउनलोड करें और चलाएं।
इस ऐप को चलाने के लिए इन निर्देशों का पालन करें:
- 1. इस एप्लिकेशन को अपने पीसी में डाउनलोड करें।
- 2. हमारे फ़ाइल प्रबंधक में https://www.onworks.net/myfiles.php?username=XXXXX उस उपयोगकर्ता नाम के साथ दर्ज करें जो आप चाहते हैं।
- 3. इस एप्लिकेशन को ऐसे फाइल मैनेजर में अपलोड करें।
- 4. इस वेबसाइट से ऑनवर्क्स लिनक्स ऑनलाइन या विंडोज ऑनलाइन एमुलेटर या मैकोज़ ऑनलाइन एमुलेटर शुरू करें।
- 5. ऑनवर्क्स लिनक्स ओएस से आपने अभी शुरुआत की है, हमारे फाइल मैनेजर को https://www.onworks.net/myfiles.php?username=XXXXX उस यूजरनेम के साथ जाएं जो आप चाहते हैं।
- 6. एप्लिकेशन डाउनलोड करें, इसे इंस्टॉल करें और इसे चलाएं।
स्क्रीनशॉट
Ad
CTranslate2
वर्णन
ट्रांसफार्मर मॉडल के साथ कुशल अनुमान के लिए CTranslate2 एक C++ और Python लाइब्रेरी है। प्रोजेक्ट एक कस्टम रनटाइम लागू करता है जो सीपीयू और जीपीयू पर ट्रांसफार्मर मॉडल के मेमोरी उपयोग को तेज करने और कम करने के लिए कई प्रदर्शन अनुकूलन तकनीकों जैसे वजन परिमाणीकरण, परत फ़्यूज़न, बैच रीऑर्डरिंग इत्यादि लागू करता है। निष्पादन काफी तेज़ है और कई उन्नत अनुकूलन के लिए समर्थित मॉडल और कार्यों पर सामान्य प्रयोजन गहन शिक्षण ढांचे की तुलना में कम संसाधनों की आवश्यकता होती है: परत संलयन, पैडिंग हटाना, बैच पुन: व्यवस्थित करना, इन-प्लेस संचालन, कैशिंग तंत्र, आदि। मॉडल क्रमबद्धता और कम परिशुद्धता के साथ गणना समर्थन भार: 16-बिट फ़्लोटिंग पॉइंट (FP16), 16-बिट पूर्णांक (INT16), और 8-बिट पूर्णांक (INT8)। प्रोजेक्ट x86-64 और AArch64/ARM64 प्रोसेसर का समर्थन करता है और कई बैकएंड को एकीकृत करता है जो इन प्लेटफार्मों के लिए अनुकूलित हैं: Intel MKL, oneDNN, OpenBLAS, Ruy, और Apple Accelerate।
विशेषताएं
- एनकोडर-डिकोडर मॉडल समर्थित
- GPT-2, GPT-J, GPT-NeoX, OPT, BLOOM समर्थित
- स्वचालित सीपीयू पहचान और कोड प्रेषण
- सीपीयू और जीपीयू पर तेज़ और कुशल निष्पादन
- परिमाणीकरण और कम परिशुद्धता
- एकाधिक सीपीयू आर्किटेक्चर समर्थन करते हैं
- गतिशील स्मृति उपयोग
- समानांतर और अतुल्यकालिक निष्पादन
प्रोग्रामिंग भाषा
सी + +
कैटिगरीज
यह एक एप्लिकेशन है जिसे https://sourceforge.net/projects/ctranslate2.mirror/ से भी प्राप्त किया जा सकता है। हमारे निःशुल्क ऑपरेटिव सिस्टमों में से एक से सबसे आसान तरीके से ऑनलाइन चलाने के लिए इसे ऑनवर्क्स में होस्ट किया गया है।
