Bu, son sürümü CTranslate2.zip olarak indirilebilen CTranslate23.20.0 adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
CTranslate2 adlı bu uygulamayı OnWorks ile ücretsiz olarak indirin ve çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN GÖRÜNTÜLERİ:
CÇevir2
AÇIKLAMA:
CTranslate2, Transformer modelleriyle verimli çıkarım yapmaya yönelik bir C++ ve Python kitaplığıdır. Proje, Transformer modellerinin CPU ve GPU üzerindeki bellek kullanımını hızlandırmak ve azaltmak için ağırlık nicelemesi, katman füzyonu, toplu yeniden sıralama vb. gibi birçok performans optimizasyon tekniğini uygulayan özel bir çalışma zamanı uygulamaktadır. Katman birleştirme, dolgu kaldırma, toplu yeniden sıralama, yerinde işlemler, önbelleğe alma mekanizması vb. birçok gelişmiş optimizasyon sayesinde, desteklenen modeller ve görevler üzerinde yürütme önemli ölçüde daha hızlıdır ve genel amaçlı derin öğrenme çerçevelerine göre daha az kaynak gerektirir. hesaplama, azaltılmış hassasiyetle ağırlıkları destekler: 16 bitlik kayan noktalar (FP16), 16 bitlik tam sayılar (INT16) ve 8 bitlik tam sayılar (INT8). Proje, x86-64 ve AArch64/ARM64 işlemcilerini destekliyor ve şu platformlar için optimize edilmiş birden fazla arka ucu entegre ediyor: Intel MKL, oneDNN, OpenBLAS, Ruy ve Apple Accelerate.
Özellikler
- Desteklenen kodlayıcı-kod çözücü modelleri
- GPT-2, GPT-J, GPT-NeoX, OPT, BLOOM desteklenir
- Otomatik CPU algılama ve kod gönderimi
- CPU ve GPU'da hızlı ve verimli yürütme
- Niceleme ve azaltılmış hassasiyet
- Çoklu CPU mimarisi desteği
- Dinamik bellek kullanımı
- Paralel ve asenkron yürütme
Programlama dili
C + +
Kategoriler
Bu, https://sourceforge.net/projects/ctranslate2.mirror/ adresinden de alınabilecek bir uygulamadır. Ücretsiz İşletim Sistemlerimizden birinden en kolay şekilde çevrimiçi çalıştırılabilmesi için OnWorks'te barındırılmıştır.