Đây là ứng dụng Linux có tên Alpaca.cpp có bản phát hành mới nhất có thể tải xuống dưới dạng 9116ae9.zip. Nó có thể chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên Alpaca.cpp với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
Alpaca.cpp
MÔ TẢ
Chạy một mô hình giống như ChatGPT nhanh cục bộ trên thiết bị của bạn. Điều này kết hợp mô hình nền tảng LLaMA với bản tái tạo mở của Stanford Alpaca, tinh chỉnh mô hình cơ sở để tuân theo hướng dẫn (tương tự như RLHF được sử dụng để huấn luyện ChatGPT) và một tập hợp các sửa đổi đối với llama.cpp để thêm giao diện trò chuyện. Tải xuống tệp zip tương ứng với hệ điều hành của bạn từ bản phát hành mới nhất. Các trọng số dựa trên các tinh chỉnh đã xuất bản từ alpaca-lora, được chuyển đổi trở lại thành điểm kiểm tra PyTorch với một tập lệnh đã sửa đổi và sau đó được lượng tử hóa bằng llama.cpp theo cách thông thường.
Tính năng
- Chạy một mô hình giống như ChatGPT nhanh cục bộ trên thiết bị của bạn
- Nếu bạn có hơn 10GB RAM, bạn có thể sử dụng model 13B chất lượng cao hơn
- Kết hợp mô hình nền tảng LLaMA với bản sao mở của Stanford Alpaca
- Các trọng số dựa trên các tinh chỉnh đã xuất bản từ alpaca-lora,
- Bạn có thể thêm các tùy chọn khởi chạy khác
- Bây giờ bạn có thể nhập AI trong thiết bị đầu cuối và nó sẽ trả lời
Ngôn ngữ lập trình
C ++, C
Danh Mục
Đây là một ứng dụng cũng có thể được tìm nạp từ https://sourceforge.net/projects/alpaca-cpp.mirror/. Nó đã được lưu trữ trong OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
