Đây là ứng dụng Linux có tên LLM Foundry có bản phát hành mới nhất có thể được tải xuống dưới dạng v0.3.0.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên LLM Foundry with OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
Xưởng đúc LLM
MÔ TẢ
Giới thiệu MPT-7B, mục đầu tiên trong Chuỗi nền tảng khảm ML của chúng tôi. MPT-7B là một máy biến áp được đào tạo từ đầu trên mã thông báo và mã 1T. Nó là nguồn mở, có sẵn cho mục đích sử dụng thương mại và phù hợp với chất lượng của LLaMA-7B. MPT-7B đã được đào tạo trên nền tảng KhảmML trong 9.5 ngày mà không cần sự can thiệp của con người với chi phí ~ 200 nghìn đô la. Các mô hình ngôn ngữ lớn (LLM) đang thay đổi thế giới, nhưng đối với những người ở bên ngoài các phòng thí nghiệm công nghiệp có nguồn lực tốt, việc đào tạo và triển khai các mô hình này có thể cực kỳ khó khăn. Điều này đã dẫn đến một loạt hoạt động tập trung vào LLM nguồn mở, chẳng hạn như chuỗi LLaMA từ Meta, chuỗi Pythia từ EleutherAI, chuỗi StableLM từ StabilityAI và mô hình OpenLLaMA từ Berkeley AI Research.
Tính năng
- Được cấp phép cho mục đích thương mại (không giống như LLaMA)
- Được đào tạo trên một lượng lớn dữ liệu (mã thông báo 1T như LLaMA so với 300B cho Pythia, 300B cho OpenLLaMA và 800B cho StableLM)
- Sẵn sàng xử lý các đầu vào cực dài nhờ ALiBi (chúng tôi đã đào tạo về tối đa 65 nghìn đầu vào và có thể xử lý lên tới 84k so với 2k-4k đối với các mô hình nguồn mở khác)
- Tối ưu hóa để đào tạo và suy luận nhanh (thông qua FlashAttention và FasterTransformer)
- Được trang bị mã đào tạo nguồn mở hiệu quả cao
- MPT-7B Base là máy biến áp kiểu giải mã với thông số 6.7B
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/llm-foundry.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
