Đây là ứng dụng Linux có tên Basaran có bản phát hành mới nhất có thể tải xuống dưới dạng v0.21.1.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên Basaran với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
basaran
MÔ TẢ
Basaran là một giải pháp thay thế nguồn mở cho API hoàn thành văn bản OpenAI. Nó cung cấp API phát trực tuyến tương thích cho các mô hình tạo văn bản dựa trên Máy biến áp ôm mặt của bạn. Cộng đồng nguồn mở cuối cùng sẽ chứng kiến khoảnh khắc Phổ biến ổn định cho các mô hình ngôn ngữ lớn (LLM) và Basaran cho phép bạn thay thế dịch vụ của OpenAI bằng mô hình nguồn mở mới nhất để cung cấp năng lượng cho ứng dụng của bạn mà không cần sửa đổi một dòng mã nào. Tạo luồng bằng các chiến lược giải mã khác nhau. Hỗ trợ cả mô hình chỉ giải mã và mã hóa-giải mã. Detokenizer xử lý các từ thay thế và khoảng trắng. Hỗ trợ đa GPU với lượng tử hóa 8 bit tùy chọn. Tiến trình một phần thời gian thực bằng cách sử dụng các sự kiện do máy chủ gửi. Tương thích với API OpenAI và thư viện máy khách. Đi kèm với một sân chơi dựa trên web lạ mắt. Hình ảnh Docker có sẵn trên Gói Docker Hub và GitHub.
Tính năng
- Tạo luồng bằng các chiến lược giải mã khác nhau
- Hỗ trợ cả mô hình chỉ giải mã và mã hóa-giải mã
- Detokenizer xử lý thay thế và khoảng trắng
- Hỗ trợ đa GPU với lượng tử hóa 8 bit tùy chọn
- Tiến trình một phần thời gian thực bằng cách sử dụng các sự kiện do máy chủ gửi
- Tương thích với API OpenAI và thư viện máy khách
- Đi kèm với một sân chơi dựa trên web ưa thích
Ngôn ngữ lập trình
Python, JavaScript
Danh Mục
Đây là một ứng dụng cũng có thể được tìm nạp từ https://sourceforge.net/projects/basaran.mirror/. Nó đã được lưu trữ trong OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
