Ini ialah apl Linux bernama llama2-webui yang keluaran terbarunya boleh dimuat turun sebagai v0.1.14Release.zip. Ia boleh dijalankan dalam talian dalam penyedia pengehosan percuma OnWorks untuk stesen kerja.
Muat turun dan jalankan dalam talian apl bernama llama2-webui ini dengan OnWorks secara percuma.
Ikut arahan ini untuk menjalankan apl ini:
- 1. Memuat turun aplikasi ini dalam PC anda.
- 2. Masukkan dalam pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang anda mahukan.
- 3. Muat naik aplikasi ini dalam pengurus filem tersebut.
- 4. Mulakan OnWorks Linux dalam talian atau emulator dalam talian Windows atau emulator dalam talian MACOS dari tapak web ini.
- 5. Daripada OS Linux OnWorks yang baru anda mulakan, pergi ke pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXX dengan nama pengguna yang anda mahukan.
- 6. Muat turun aplikasi, pasang dan jalankan.
SKRIN
Ad
llama2-webui
DESCRIPTION
Menjalankan Llama 2 dengan UI web gradio pada GPU atau CPU dari mana-mana sahaja (Linux/Windows/Mac).
Ciri-ciri
- Menyokong semua model Llama 2 (7B, 13B, 70B, GPTQ, GGML) dengan mod 8-bit, 4-bit
- Gunakan llama2-wrapper sebagai bahagian belakang llama2 tempatan anda untuk Ejen/Apl Generatif; contoh colab
- Jalankan API Serasi OpenAI pada model Llama2
- Model sokongan: Llama-2-7b/13b/70b, semua Llama-2-GPTQ, semua Llama-2-GGML
- Bahagian belakang model yang menyokong: tranformer, bitsandbytes(inferens 8-bit), AutoGPTQ(inferens 4-bit), llama.cpp
- Demo: Jalankan Llama2 pada MacBook Air; Jalankan Llama2 pada GPU Colab T4 percuma
Bahasa Pengaturcaraan
Python
Kategori
Ini adalah aplikasi yang juga boleh diambil dari https://sourceforge.net/projects/llama2-webui.mirror/. Ia telah dihoskan dalam OnWorks untuk dijalankan dalam talian dengan cara yang paling mudah daripada salah satu Sistem Operasi percuma kami.
