Đây là ứng dụng Windows có tên Xorbits Inference có bản phát hành mới nhất có thể được tải xuống dưới dạng v0.5.4sourcecode.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên Xorbits Inference with OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động bất kỳ trình giả lập trực tuyến OS OnWorks nào từ trang web này, nhưng trình giả lập trực tuyến Windows tốt hơn.
- 5. Từ Hệ điều hành Windows OnWorks bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng và cài đặt nó.
- 7. Tải xuống Wine từ kho phần mềm phân phối Linux của bạn. Sau khi cài đặt, bạn có thể nhấp đúp vào ứng dụng để chạy chúng với Wine. Bạn cũng có thể thử PlayOnLinux, một giao diện đẹp mắt trên Wine sẽ giúp bạn cài đặt các chương trình và trò chơi phổ biến của Windows.
Wine là một cách để chạy phần mềm Windows trên Linux, nhưng không cần Windows. Wine là một lớp tương thích Windows mã nguồn mở có thể chạy các chương trình Windows trực tiếp trên bất kỳ máy tính để bàn Linux nào. Về cơ bản, Wine đang cố gắng triển khai lại đủ Windows từ đầu để nó có thể chạy tất cả các ứng dụng Windows đó mà không thực sự cần đến Windows.
MÀN HÌNH
Ad
Suy luận Xorbit
MÔ TẢ
Thay thế OpenAI GPT bằng một LLM khác trong ứng dụng của bạn bằng cách thay đổi một dòng mã. Xinference cho phép bạn tự do sử dụng bất kỳ LLM nào bạn cần. Với Xinference, bạn được trao quyền để thực hiện suy luận với mọi mô hình ngôn ngữ nguồn mở, mô hình nhận dạng giọng nói và mô hình đa phương thức, cho dù trên đám mây, tại chỗ hay thậm chí trên máy tính xách tay của bạn. Suy luận Xorbits(Xinference) là một thư viện mạnh mẽ và linh hoạt được thiết kế để phục vụ các mô hình ngôn ngữ, nhận dạng giọng nói và đa phương thức. Với Xorbits Inference, bạn có thể dễ dàng triển khai và phục vụ các mô hình tích hợp hiện đại hoặc hiện đại của mình chỉ bằng một lệnh duy nhất. Cho dù bạn là nhà nghiên cứu, nhà phát triển hay nhà khoa học dữ liệu, Suy luận Xorbits cho phép bạn phát huy toàn bộ tiềm năng của các mô hình AI tiên tiến.
Tính năng
- Đơn giản hóa quy trình phục vụ các mô hình ngôn ngữ lớn, nhận dạng giọng nói và đa phương thức
- Bạn có thể thiết lập và triển khai các mô hình của mình để thử nghiệm và sản xuất chỉ bằng một lệnh
- Thử nghiệm với các mô hình tích hợp tiên tiến bằng một lệnh duy nhất
- Tận dụng tối đa tài nguyên phần cứng của bạn với ggml
- Cung cấp nhiều giao diện để tương tác với các mô hình của bạn, hỗ trợ RPC, API RESTful (tương thích với API OpenAI), CLI và WebUI để quản lý và giám sát liền mạch
- Excel trong các kịch bản triển khai phân tán, cho phép phân phối liền mạch suy luận mô hình trên nhiều thiết bị hoặc máy
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/xorbits-inference.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
