Aceasta este aplicația Linux numită Web LLM a cărei ultimă versiune poate fi descărcată ca v0.2.0.zip. Poate fi rulat online în furnizorul gratuit de găzduire OnWorks pentru stații de lucru.
Descărcați și rulați online această aplicație numită Web LLM cu OnWorks gratuit.
Urmați aceste instrucțiuni pentru a rula această aplicație:
- 1. Ați descărcat această aplicație pe computer.
- 2. Introduceți în managerul nostru de fișiere https://www.onworks.net/myfiles.php?username=XXXXX cu numele de utilizator pe care îl doriți.
- 3. Încărcați această aplicație într-un astfel de manager de fișiere.
- 4. Porniți emulatorul online OnWorks Linux sau Windows online sau emulatorul online MACOS de pe acest site web.
- 5. Din sistemul de operare OnWorks Linux pe care tocmai l-ați pornit, accesați managerul nostru de fișiere https://www.onworks.net/myfiles.php?username=XXXXX cu numele de utilizator dorit.
- 6. Descărcați aplicația, instalați-o și rulați-o.
SCREENSHOTS
Ad
Web LLM
DESCRIERE
WebLLM este un pachet javascript modular, personalizabil, care aduce direct chat-uri model de limbă direct în browserele web cu accelerare hardware. Totul rulează în browser fără suport de server și este accelerat cu WebGPU. Putem aduce o mulțime de oportunități distractive de a construi asistenți AI pentru toată lumea și de a permite confidențialitatea în timp ce ne bucurăm de accelerarea GPU. WebLLM oferă o interfață minimalistă și modulară pentru a accesa chatbot-ul în browser. Pachetul WebLLM în sine nu vine cu UI și este proiectat într-un mod modular pentru a se conecta la oricare dintre componentele UI. Următorul fragment de cod demonstrează un exemplu simplu care generează un răspuns în flux pe o pagină web.
DESCRIERE
- WebLLM vine cu suport API pentru WebWorker, astfel încât să puteți conecta procesul de generare într-un fir de lucru separat, astfel încât calculul din webworker să nu perturbe interfața de utilizare
- Puteți găsi un exemplu complet de aplicație de chat în exemple/simple-chat
- WebLLM funcționează ca un proiect însoțitor al MLC LLM
- Refolosește artefactul model și creează fluxul MLC LLM
- Construiți pachetul WebLLM din sursă
- Pachetul WebLLM este un web runtime conceput pentru MLC LLM
Limbaj de programare
manuscris dactilografiat
Categorii
Aceasta este o aplicație care poate fi preluată și de la https://sourceforge.net/projects/web-llm.mirror/. Acesta a fost găzduit în OnWorks pentru a fi rulat online în cel mai simplu mod de la unul dintre sistemele noastre operative gratuite.
