Đây là ứng dụng Windows có tên Aviary có bản phát hành mới nhất có thể được tải xuống dưới dạng v0.3.1.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên Aviary với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động bất kỳ trình giả lập trực tuyến OS OnWorks nào từ trang web này, nhưng trình giả lập trực tuyến Windows tốt hơn.
- 5. Từ Hệ điều hành Windows OnWorks bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng và cài đặt nó.
- 7. Tải xuống Wine từ kho phần mềm phân phối Linux của bạn. Sau khi cài đặt, bạn có thể nhấp đúp vào ứng dụng để chạy chúng với Wine. Bạn cũng có thể thử PlayOnLinux, một giao diện đẹp mắt trên Wine sẽ giúp bạn cài đặt các chương trình và trò chơi phổ biến của Windows.
Wine là một cách để chạy phần mềm Windows trên Linux, nhưng không cần Windows. Wine là một lớp tương thích Windows mã nguồn mở có thể chạy các chương trình Windows trực tiếp trên bất kỳ máy tính để bàn Linux nào. Về cơ bản, Wine đang cố gắng triển khai lại đủ Windows từ đầu để nó có thể chạy tất cả các ứng dụng Windows đó mà không thực sự cần đến Windows.
MÀN HÌNH
Ad
lồng nuôi chim
MÔ TẢ
Aviary là một giải pháp phục vụ LLM giúp dễ dàng triển khai và quản lý nhiều loại LLM nguồn mở. Cung cấp một bộ LLM nguồn mở mở rộng được định cấu hình sẵn, với các giá trị mặc định hoạt động tốt. Hỗ trợ các mẫu Transformer được lưu trữ trên Hugging Face Hub hoặc hiển thị trên đĩa cục bộ. Aviary có hỗ trợ riêng cho việc tự động điều chỉnh quy mô và triển khai nhiều nút nhờ Ray và Ray Serve. Aviary có thể mở rộng quy mô về XNUMX và tạo các bản sao mô hình mới (mỗi bản sao bao gồm nhiều nhân viên GPU) để đáp ứng nhu cầu. Ray đảm bảo rằng việc điều phối và quản lý tài nguyên được xử lý tự động. Aviary có thể hỗ trợ hàng trăm bản sao và cụm gồm hàng trăm nút, được triển khai trên đám mây hoặc tại chỗ.
Tính năng
- Hỗ trợ đầy đủ việc triển khai mô hình đa GPU và đa nút
- Cung cấp API REST tương tự như OpenAI để giúp dễ dàng di chuyển và kiểm tra chéo chúng
- Cung cấp các tính năng hiệu suất cao như trộn, lượng tử hóa và phát trực tuyến liên tục
- Đơn giản hóa việc bổ sung LLM mới trong vòng vài phút trong hầu hết các trường hợp
- Đơn giản hóa việc triển khai nhiều LLM trong một khuôn khổ thống nhất duy nhất
- Cung cấp một bộ LLM nguồn mở mở rộng được định cấu hình sẵn, với các giá trị mặc định hoạt động tốt
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/aviary.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
