Đây là ứng dụng Windows có tên LLaMA.go có bản phát hành mới nhất có thể được tải xuống dưới dạng v1.4_ServerMode.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên LLaMA.go với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động bất kỳ trình giả lập trực tuyến OS OnWorks nào từ trang web này, nhưng trình giả lập trực tuyến Windows tốt hơn.
- 5. Từ Hệ điều hành Windows OnWorks bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng và cài đặt nó.
- 7. Tải xuống Wine từ kho phần mềm phân phối Linux của bạn. Sau khi cài đặt, bạn có thể nhấp đúp vào ứng dụng để chạy chúng với Wine. Bạn cũng có thể thử PlayOnLinux, một giao diện đẹp mắt trên Wine sẽ giúp bạn cài đặt các chương trình và trò chơi phổ biến của Windows.
Wine là một cách để chạy phần mềm Windows trên Linux, nhưng không cần Windows. Wine là một lớp tương thích Windows mã nguồn mở có thể chạy các chương trình Windows trực tiếp trên bất kỳ máy tính để bàn Linux nào. Về cơ bản, Wine đang cố gắng triển khai lại đủ Windows từ đầu để nó có thể chạy tất cả các ứng dụng Windows đó mà không thực sự cần đến Windows.
MÀN HÌNH
Ad
LLaMA.go
MÔ TẢ
llama.go giống như llama.cpp ở Golang thuần túy. Mã của dự án dựa trên khuôn khổ ggml.cpp huyền thoại của Georgi Gerganov được viết bằng C++ với cùng quan điểm về hiệu suất và sự sang trọng. Cả hai model đều lưu trữ trọng lượng FP32, vì vậy bạn sẽ cần ít nhất 32Gb RAM (không phải RAM VRAM hoặc GPU) cho LLaMA-7B. Tăng gấp đôi lên 64Gb cho LLaMA-13B.
Tính năng
- Toán Tensor trong Golang thuần túy
- Triển khai kiến trúc mạng nơ-ron LLaMA và tải mô hình
- Thử nghiệm với mẫu LLaMA-7B nhỏ hơn
- Hãy chắc chắn rằng suy luận Go hoạt động giống hệt như C++
- Hãy để Go tỏa sáng! Kích hoạt đa luồng và nhắn tin để tăng hiệu suất
- Khả năng tương thích đa nền tảng với Mac, Linux và Windows
Ngôn ngữ lập trình
Go
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/llama-go.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
