Ini ialah apl Linux bernama LocalAI yang keluaran terbarunya boleh dimuat turun sebagai v1.30.0.zip. Ia boleh dijalankan dalam talian dalam penyedia pengehosan percuma OnWorks untuk stesen kerja.
Muat turun dan jalankan dalam talian apl bernama LocalAI ini dengan OnWorks secara percuma.
Ikut arahan ini untuk menjalankan apl ini:
- 1. Memuat turun aplikasi ini dalam PC anda.
- 2. Masukkan dalam pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang anda mahukan.
- 3. Muat naik aplikasi ini dalam pengurus filem tersebut.
- 4. Mulakan OnWorks Linux dalam talian atau emulator dalam talian Windows atau emulator dalam talian MACOS dari tapak web ini.
- 5. Daripada OS Linux OnWorks yang baru anda mulakan, pergi ke pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXX dengan nama pengguna yang anda mahukan.
- 6. Muat turun aplikasi, pasang dan jalankan.
SKRIN:
LocalAI
HURAIAN:
API serasi OpenAI tempatan yang dihoskan sendiri, dipacu komuniti. Penggantian drop-in untuk OpenAI yang menjalankan LLM pada perkakasan gred pengguna. Alternatif OpenAI Sumber Terbuka Percuma. Tiada GPU diperlukan. Menjalankan model serasi ggml, GPTQ, onnx, TF: llama, gpt4all, rwkv, whisper, vicuna, koala, gpt4all-j, cerebras, falcon, dolly, starcoder dan banyak lagi. LocalAI ialah API REST pengganti drop-in yang serasi dengan spesifikasi OpenAI API untuk inferens tempatan. Ia membolehkan anda menjalankan LLM (dan bukan sahaja) secara tempatan atau di premis dengan perkakasan gred pengguna, menyokong berbilang keluarga model yang serasi dengan format ggml. Tidak memerlukan GPU.
Ciri-ciri
- Tempatan, OpenAI drop-in alternatif REST API
- TIADA GPU diperlukan
- Menyokong pelbagai model
- Setelah dimuatkan pada kali pertama, model akan disimpan dalam ingatan untuk inferens yang lebih pantas
- Tidak berbaloi, tetapi menggunakan pengikatan C++ untuk inferens yang lebih pantas dan prestasi yang lebih baik
- Anda memiliki data anda
Bahasa Pengaturcaraan
Go
Kategori
Ini adalah aplikasi yang juga boleh diambil dari https://sourceforge.net/projects/localai.mirror/. Ia telah dihoskan dalam OnWorks untuk dijalankan dalam talian dengan cara yang paling mudah daripada salah satu Sistem Operasi percuma kami.