Ini adalah aplikasi Linux bernama Aviary yang rilis terbarunya dapat diunduh sebagai v0.3.1.zip. Itu dapat dijalankan secara online di penyedia hosting gratis OnWorks untuk workstation.
Unduh dan jalankan secara online aplikasi bernama Aviary dengan OnWorks ini secara gratis.
Ikuti petunjuk ini untuk menjalankan aplikasi ini:
- 1. Download aplikasi ini di PC Anda.
- 2. Masuk ke file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan username yang anda inginkan.
- 3. Upload aplikasi ini di filemanager tersebut.
- 4. Jalankan emulator online OnWorks Linux atau Windows online atau emulator online MACOS dari situs web ini.
- 5. Dari OS Linux OnWorks yang baru saja Anda mulai, buka file manager kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang Anda inginkan.
- 6. Download aplikasinya, install dan jalankan.
Tangkapan layar
Ad
kandang burung
DESKRIPSI
Aviary adalah solusi penyajian LLM yang memudahkan penerapan dan pengelolaan berbagai LLM sumber terbuka. Menyediakan rangkaian lengkap LLM sumber terbuka yang telah dikonfigurasi sebelumnya, dengan standar yang dapat langsung digunakan. Mendukung model Transformer yang dihosting di Hugging Face Hub atau ada di disk lokal. Aviary memiliki dukungan asli untuk penskalaan otomatis dan penerapan multi-node berkat Ray dan Ray Serve. Aviary dapat menskalakan ke nol dan membuat replika model baru (masing-masing terdiri dari beberapa pekerja GPU) sebagai respons terhadap permintaan. Ray memastikan bahwa orkestrasi dan pengelolaan sumber daya ditangani secara otomatis. Aviary mampu mendukung ratusan replika dan cluster yang terdiri dari ratusan node, yang diterapkan baik di cloud maupun di lokasi.
Fitur
- Mendukung sepenuhnya penerapan model multi-GPU & multi-node
- Menyediakan REST API yang mirip dengan OpenAI untuk memudahkan migrasi dan pengujian silang
- Menawarkan fitur kinerja tinggi seperti batching berkelanjutan, kuantisasi, dan streaming
- Menyederhanakan penambahan LLM baru dalam hitungan menit dalam banyak kasus
- Menyederhanakan penerapan beberapa LLM dalam satu kerangka terpadu
- Menyediakan rangkaian lengkap LLM sumber terbuka yang telah dikonfigurasi sebelumnya, dengan standar yang dapat langsung digunakan
Bahasa Pemrograman
Ular sanca
Kategori
Ini adalah aplikasi yang juga dapat diambil dari https://sourceforge.net/projects/aviary.mirror/. Ini telah dihosting di OnWorks untuk dijalankan online dengan cara termudah dari salah satu Sistem Operasi gratis kami.
