Ito ang Windows app na pinangalanang DeepSpeed MII na ang pinakabagong release ay maaaring ma-download bilang DeepSpeedMIIv0.0.8.zip. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang DeepSpeed MII sa OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Magsimula ng anumang OS OnWorks online emulator mula sa website na ito, ngunit mas mahusay na Windows online emulator.
- 5. Mula sa OnWorks Windows OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application at i-install ito.
- 7. I-download ang Wine mula sa iyong mga Linux distributions software repository. Kapag na-install na, maaari mong i-double click ang app upang patakbuhin ang mga ito gamit ang Wine. Maaari mo ring subukan ang PlayOnLinux, isang magarbong interface sa ibabaw ng Wine na tutulong sa iyong mag-install ng mga sikat na programa at laro sa Windows.
Ang alak ay isang paraan upang patakbuhin ang software ng Windows sa Linux, ngunit walang kinakailangang Windows. Ang alak ay isang open-source na layer ng compatibility ng Windows na maaaring direktang magpatakbo ng mga program sa Windows sa anumang desktop ng Linux. Sa totoo lang, sinusubukan ng Wine na muling ipatupad ang sapat na Windows mula sa simula upang mapatakbo nito ang lahat ng mga Windows application na iyon nang hindi talaga nangangailangan ng Windows.
MGA LALAKI
Ad
DeepSpeed MII
DESCRIPTION
Ginagawa ng MII na posible ang low-latency at high-throughput inference, na pinapagana ng DeepSpeed. Ang Deep Learning (DL) open-source na komunidad ay nakakita ng napakalaking pag-unlad sa nakalipas na ilang buwan. Ang hindi kapani-paniwalang makapangyarihang mga modelo ng pagbuo ng text gaya ng Bloom 176B, o modelo ng pagbuo ng imahe gaya ng Stable Diffusion ay available na ngayon sa sinumang may access sa isang dakot o kahit isang GPU sa pamamagitan ng mga platform gaya ng Hugging Face. Bagama't ang open-sourcing ay nagdemokratiko ng access sa mga kakayahan ng AI, ang kanilang aplikasyon ay pinaghihigpitan pa rin ng dalawang kritikal na salik: inference latency at gastos. Ang DeepSpeed-MII ay isang bagong open-source na library ng python mula sa DeepSpeed, na naglalayong gumawa ng low-latency, murang inference ng mga mahuhusay na modelo na hindi lamang magagawa ngunit madaling ma-access. Nag-aalok ang MII ng access sa lubos na na-optimize na pagpapatupad ng libu-libong malawak na ginagamit na mga modelo ng DL. Ang mga modelong sinusuportahan ng MII ay nakakakuha ng makabuluhang mas mababang latency at gastos kumpara sa orihinal na pagpapatupad ng mga ito.
Mga tampok
- Nag-aalok ang MII ng access sa lubos na na-optimize na pagpapatupad ng libu-libong malawak na ginagamit na mga modelo ng DL
- Ang mga modelong sinusuportahan ng MII ay nakakakuha ng makabuluhang mas mababang latency at gastos kumpara sa orihinal na pagpapatupad ng mga ito
- Ang MII ay gumagamit ng malawak na hanay ng mga pag-optimize mula sa DeepSpeed-Inference gaya ng deepfusion para sa mga transformer
- Makabagong pagganap
- Sinusuportahan ng MII ang murang deployment ng mga modelong ito sa nasasakupan at sa Azure sa pamamagitan ng AML gamit lamang ang ilang linya ng mga code
- Automated tensor-slicing para sa multi-GPU inference, on-the-fly quantization gamit ang ZeroQuant
Wika ng Programming
Sawa
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/deepspeed-mii.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
