Dit is de Linux-app genaamd Web LLM waarvan de nieuwste release kan worden gedownload als v0.2.0.zip. Het kan online worden uitgevoerd in de gratis hostingprovider OnWorks voor werkstations.
Download en voer deze app met de naam Web LLM gratis online uit met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start de OnWorks Linux online of Windows online emulator of MACOS online emulator vanaf deze website.
- 5. Ga vanuit het OnWorks Linux-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie, installeer hem en voer hem uit.
SCHERMSCHERMEN:
Web-LLM
BESCHRIJVING:
WebLLM is een modulair, aanpasbaar JavaScript-pakket dat taalmodelchats rechtstreeks naar webbrowsers brengt met hardwareversnelling. Alles draait in de browser zonder serverondersteuning en wordt versneld met WebGPU. We kunnen veel leuke mogelijkheden bieden om AI-assistenten voor iedereen te bouwen en privacy mogelijk te maken terwijl we genieten van GPU-versnelling. WebLLM biedt een minimalistische en modulaire interface voor toegang tot de chatbot in de browser. Het WebLLM-pakket zelf wordt niet geleverd met een gebruikersinterface en is op een modulaire manier ontworpen om aan elk van de UI-componenten te koppelen. Het volgende codefragment demonstreert een eenvoudig voorbeeld waarmee een streamingantwoord op een webpagina wordt gegenereerd.
Kenmerken
- WebLLM wordt geleverd met API-ondersteuning voor WebWorker, zodat u het generatieproces kunt koppelen aan een afzonderlijke werkthread, zodat de rekenkracht in de webwerker de gebruikersinterface niet verstoort
- Een compleet voorbeeld van een chat-app vindt u in voorbeelden/simple-chat
- WebLLM werkt als een begeleidend project van MLC LLM
- Het hergebruikt het modelartefact en bouwt de stroom van MLC LLM op
- Bouw een WebLLM-pakket vanaf de broncode
- WebLLM-pakket is een webruntime ontworpen voor MLC LLM
Programmeertaal
getypte tekst
Categorieën
Dit is een applicatie die ook kan worden opgehaald van https://sourceforge.net/projects/web-llm.mirror/. Het is gehost in OnWorks zodat het op de eenvoudigste manier online kan worden uitgevoerd vanaf een van onze gratis besturingssystemen.