Tải xuống Chinese-LLaMA-Alpaca 2 cho Windows

Đây là ứng dụng Windows có tên Chinese-LLaMA-Alpaca 2, bản phát hành mới nhất có thể được tải xuống dưới dạng ZhongWenYangTuoDaMoXingErQiv3.1.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.

MÀN HÌNH

Tiếng Trung-LLaMA-Alpaca 2

MÔ TẢ

Dự án này được phát triển dựa trên mô hình lớn Llama-2 có bán trên thị trường do Meta phát hành. Đây là giai đoạn thứ hai của dự án mô hình lớn LLaMA&Alpaca của Trung Quốc. Mô hình cơ sở LLaMA-2 của Trung Quốc và mô hình lớn tinh chỉnh lệnh Alpaca-2 đều có nguồn mở. Các mô hình này mở rộng và tối ưu hóa từ vựng tiếng Trung trên cơ sở Llama-2 gốc, sử dụng dữ liệu tiếng Trung quy mô lớn để đào tạo trước dần dần, đồng thời cải thiện hơn nữa ngữ nghĩa cơ bản và hiểu biết lệnh về tiếng Trung. Cải tiến hiệu suất. Mô hình liên quan hỗ trợ đào tạo FlashAttention-2, hỗ trợ bối cảnh 4K và có thể mở rộng lên tới 18K+ thông qua phương pháp NTK.

Tính năng

• Mở rộng từ vựng tiếng Trung mới cho mẫu Llama-2 và mở các mẫu lớn LLaMA-2 và Alpaca-2 của Trung Quốc
• Các tập lệnh đào tạo trước nguồn mở và các tập lệnh tinh chỉnh hướng dẫn, người dùng có thể huấn luyện thêm mô hình nếu cần
• Sử dụng CPU/GPU của máy tính cá nhân để nhanh chóng định lượng và triển khai cục bộ các mô hình lớn
• Các mô hình mã nguồn mở hiện tại: Chinese-LLaMA-2 (7B/13B), Chinese-Alpaca-2 (7B/13B) (đối với các mô hình lớn hơn, vui lòng tham khảo giai đoạn đầu của dự án)
• Từ vựng tiếng Trung được tối ưu hóa
• Sự chú ý hiệu quả dựa trên FlashAttention-2

Ngôn ngữ lập trình

Python

Danh Mục

Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/chinese-llama-alpaca-2.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ ​​một trong các Hệ điều hành miễn phí của chúng tôi.