Ini ialah apl Linux bernama Petals yang keluaran terbaharunya boleh dimuat turun sebagai v2.2.0_Falcon,macOSsupport,dan banyak lagi.zip. Ia boleh dijalankan dalam talian dalam penyedia pengehosan percuma OnWorks untuk stesen kerja.
Muat turun dan jalankan dalam talian apl bernama Petals ini dengan OnWorks secara percuma.
Ikut arahan ini untuk menjalankan apl ini:
- 1. Memuat turun aplikasi ini dalam PC anda.
- 2. Masukkan dalam pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang anda mahukan.
- 3. Muat naik aplikasi ini dalam pengurus filem tersebut.
- 4. Mulakan OnWorks Linux dalam talian atau emulator dalam talian Windows atau emulator dalam talian MACOS dari tapak web ini.
- 5. Daripada OS Linux OnWorks yang baru anda mulakan, pergi ke pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXX dengan nama pengguna yang anda mahukan.
- 6. Muat turun aplikasi, pasang dan jalankan.
SKRIN
Ad
Kelopak
DESCRIPTION
Jalankan model bahasa 100B+ di rumah, gaya BitTorrent. Jalankan model bahasa yang besar seperti BLOOM-176B secara kolaboratif — anda memuatkan sebahagian kecil model, kemudian bekerjasama dengan orang yang melayani bahagian lain untuk menjalankan inferens atau penalaan halus. Inferens satu kelompok berjalan pada ≈ 1 saat setiap langkah (token) — sehingga 10x lebih cepat daripada pemuatan, cukup untuk chatbots dan apl interaktif yang lain. Inferens selari mencecah ratusan token/saat. Di luar API model bahasa klasik — anda boleh menggunakan sebarang kaedah penalaan halus dan pensampelan, melaksanakan laluan tersuai melalui model atau melihat keadaan tersembunyinya. Anda mendapat keselesaan API dengan fleksibiliti PyTorch. Anda juga boleh mengehoskan BLOOMZ, versi BLOOM yang diperhalusi untuk mengikut arahan manusia dalam rejim sifar pukulan — cuma gantikan kelopak mekar dengan kelopak mekar. Kelopak menjalankan model bahasa besar seperti BLOOM-176B secara kolaboratif — anda memuatkan sebahagian kecil model, kemudian bekerjasama dengan orang yang melayani bahagian lain untuk menjalankan inferens atau penalaan halus.
Ciri-ciri
- Petals menjalankan model bahasa yang besar seperti BLOOM-176B secara kolaboratif
- Inferens satu kelompok berjalan pada ≈ 1 saat setiap langkah (token)
- Di luar API model bahasa klasik
- Anda boleh menggunakan mana-mana kaedah penalaan halus dan pensampelan
- Anda mendapat keselesaan API dengan fleksibiliti PyTorch
- Inferens selari mencecah ratusan token/saat
Bahasa Pengaturcaraan
Python
Kategori
Ini adalah aplikasi yang juga boleh diambil dari https://sourceforge.net/projects/petals.mirror/. Ia telah dihoskan dalam OnWorks untuk dijalankan dalam talian dengan cara yang paling mudah daripada salah satu Sistem Operasi percuma kami.
