Đây là ứng dụng Linux có tên DeepSpeed MII, bản phát hành mới nhất có thể được tải xuống dưới dạng DeepSpeedMIIv0.0.8.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên DeepSpeed MII với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
MII tốc độ sâu
MÔ TẢ
MII giúp khả năng suy luận có độ trễ thấp và thông lượng cao được hỗ trợ bởi DeepSpeed. Cộng đồng nguồn mở Deep Learning (DL) đã chứng kiến sự phát triển vượt bậc trong vài tháng qua. Các mô hình tạo văn bản cực kỳ mạnh mẽ như Bloom 176B hoặc mô hình tạo hình ảnh như Stable Diffusion hiện có sẵn cho bất kỳ ai có quyền truy cập vào một số ít hoặc thậm chí một GPU thông qua các nền tảng như Hugging Face. Mặc dù nguồn mở đã dân chủ hóa quyền truy cập vào các khả năng AI, nhưng ứng dụng của chúng vẫn bị hạn chế bởi hai yếu tố quan trọng: độ trễ suy luận và chi phí. DeepSpeed-MII là thư viện python mã nguồn mở mới của DeepSpeed, nhằm mục đích tạo ra khả năng suy luận có độ trễ thấp, chi phí thấp của các mô hình mạnh mẽ không chỉ khả thi mà còn dễ dàng truy cập. MII cung cấp quyền truy cập vào việc triển khai được tối ưu hóa cao cho hàng nghìn mô hình DL được sử dụng rộng rãi. Các mô hình được MII hỗ trợ đạt được độ trễ và chi phí thấp hơn đáng kể so với việc triển khai ban đầu.
Tính năng
- MII cung cấp quyền truy cập vào việc triển khai được tối ưu hóa cao cho hàng nghìn mô hình DL được sử dụng rộng rãi
- Các mô hình được MII hỗ trợ đạt được độ trễ và chi phí thấp hơn đáng kể so với việc triển khai ban đầu
- MII tận dụng một loạt các tối ưu hóa từ DeepSpeed-Inference, chẳng hạn như deepfusion cho máy biến áp
- Hiệu suất tiên tiến
- MII hỗ trợ triển khai các mô hình này với chi phí thấp cả tại chỗ và trên Azure thông qua AML chỉ với một vài dòng mã
- Cắt tensor tự động để suy luận đa GPU, lượng tử hóa nhanh chóng với ZeroQuant
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/deepspeed-mii.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
