Ini adalah aplikasi Linux bernama Web LLM yang rilis terbarunya dapat diunduh sebagai v0.2.0.zip. Itu dapat dijalankan secara online di penyedia hosting gratis OnWorks untuk workstation.
Unduh dan jalankan aplikasi ini secara online bernama Web LLM dengan OnWorks secara gratis.
Ikuti petunjuk ini untuk menjalankan aplikasi ini:
- 1. Download aplikasi ini di PC Anda.
- 2. Masuk ke file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan username yang anda inginkan.
- 3. Upload aplikasi ini di filemanager tersebut.
- 4. Jalankan emulator online OnWorks Linux atau Windows online atau emulator online MACOS dari situs web ini.
- 5. Dari OS Linux OnWorks yang baru saja Anda mulai, buka file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang Anda inginkan.
- 6. Download aplikasinya, install dan jalankan.
Tangkapan layar
Ad
Web LLM
DESKRIPSI
WebLLM adalah paket javascript modular dan dapat disesuaikan yang secara langsung menghadirkan obrolan model bahasa langsung ke browser web dengan akselerasi perangkat keras. Semuanya berjalan di dalam browser tanpa dukungan server dan dipercepat dengan WebGPU. Kami dapat menghadirkan banyak peluang menyenangkan untuk membangun asisten AI bagi semua orang dan mengaktifkan privasi sambil menikmati akselerasi GPU. WebLLM menawarkan antarmuka minimalis dan modular untuk mengakses chatbot di browser. Paket WebLLM sendiri tidak dilengkapi dengan UI, dan dirancang secara modular untuk dihubungkan ke komponen UI mana pun. Cuplikan kode berikut menunjukkan contoh sederhana yang menghasilkan respons streaming pada halaman web.
Fitur
- WebLLM hadir dengan dukungan API untuk WebWorker sehingga Anda dapat menghubungkan proses pembuatan ke thread pekerja terpisah sehingga komputasi di webworker tidak mengganggu UI
- Anda dapat menemukan contoh aplikasi obrolan lengkap di contoh/obrolan sederhana
- WebLLM bekerja sebagai proyek pendamping MLC LLM
- Ini menggunakan kembali artefak model dan membangun aliran MLC LLM
- Bangun Paket WebLLM Dari Sumber
- Paket WebLLM adalah runtime web yang dirancang untuk MLC LLM
Bahasa Pemrograman
TypeScript
Kategori
Ini adalah aplikasi yang juga dapat diambil dari https://sourceforge.net/projects/web-llm.mirror/. Ini telah dihosting di OnWorks untuk dijalankan online dengan cara termudah dari salah satu Sistem Operasi gratis kami.
