Ito ang Windows app na pinangalanang Web LLM na ang pinakabagong release ay maaaring ma-download bilang v0.2.0.zip. Maaari itong patakbuhin online sa libreng hosting provider na OnWorks para sa mga workstation.
I-download at patakbuhin online ang app na ito na pinangalanang Web LLM na may OnWorks nang libre.
Sundin ang mga tagubiling ito upang patakbuhin ang app na ito:
- 1. Na-download ang application na ito sa iyong PC.
- 2. Ipasok sa aming file manager https://www.onworks.net/myfiles.php?username=XXXXX kasama ang username na gusto mo.
- 3. I-upload ang application na ito sa naturang filemanager.
- 4. Magsimula ng anumang OS OnWorks online emulator mula sa website na ito, ngunit mas mahusay na Windows online emulator.
- 5. Mula sa OnWorks Windows OS na kasisimula mo pa lang, pumunta sa aming file manager https://www.onworks.net/myfiles.php?username=XXXX gamit ang username na gusto mo.
- 6. I-download ang application at i-install ito.
- 7. I-download ang Wine mula sa iyong mga Linux distributions software repository. Kapag na-install na, maaari mong i-double click ang app upang patakbuhin ang mga ito gamit ang Wine. Maaari mo ring subukan ang PlayOnLinux, isang magarbong interface sa ibabaw ng Wine na tutulong sa iyong mag-install ng mga sikat na programa at laro sa Windows.
Ang alak ay isang paraan upang patakbuhin ang software ng Windows sa Linux, ngunit walang kinakailangang Windows. Ang alak ay isang open-source na layer ng compatibility ng Windows na maaaring direktang magpatakbo ng mga program sa Windows sa anumang desktop ng Linux. Sa totoo lang, sinusubukan ng Wine na muling ipatupad ang sapat na Windows mula sa simula upang mapatakbo nito ang lahat ng mga Windows application na iyon nang hindi talaga nangangailangan ng Windows.
MGA LALAKI
Ad
Web LLM
DESCRIPTION
Ang WebLLM ay isang modular, nako-customize na javascript package na direktang nagdadala ng mga chat ng modelo ng wika sa mga web browser na may hardware acceleration. Lahat ay tumatakbo sa loob ng browser na walang suporta sa server at pinabilis sa WebGPU. Maaari kaming magdala ng maraming masasayang pagkakataon para bumuo ng mga AI assistant para sa lahat at paganahin ang privacy habang tinatangkilik ang GPU acceleration. Nag-aalok ang WebLLM ng isang minimalist at modular na interface upang ma-access ang chatbot sa browser. Ang WebLLM package mismo ay hindi kasama ng UI, at idinisenyo sa isang modular na paraan upang i-hook sa alinman sa mga bahagi ng UI. Ang sumusunod na snippet ng code ay nagpapakita ng isang simpleng halimbawa na bumubuo ng isang streaming na tugon sa isang webpage.
Mga tampok
- Ang WebLLM ay may kasamang suporta sa API para sa WebWorker upang mai-hook mo ang proseso ng pagbuo sa isang hiwalay na thread ng manggagawa upang ang pag-compute sa webworker ay hindi makagambala sa UI
- Makakahanap ka ng kumpletong halimbawa ng chat app sa mga halimbawa/simple-chat
- Gumagana ang WebLLM bilang isang kasamang proyekto ng MLC LLM
- Ginagamit nitong muli ang artifact ng modelo at bumubuo ng daloy ng MLC LLM
- Bumuo ng WebLLM Package Mula sa Pinagmulan
- Ang WebLLM package ay isang web runtime na idinisenyo para sa MLC LLM
Wika ng Programming
TypeScript
Kategorya
Ito ay isang application na maaari ding makuha mula sa https://sourceforge.net/projects/web-llm.mirror/. Na-host ito sa OnWorks upang mapatakbo online sa pinakamadaling paraan mula sa isa sa aming mga libreng Operative System.
