Đây là ứng dụng Linux có tên SageMaker Hugging Face Inference Toolkit có bản phát hành mới nhất có thể tải xuống dưới dạng v2.1.1.zip. Nó có thể chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên là SageMaker Hugging Face Inference Toolkit with OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
Bộ công cụ suy luận khuôn mặt ôm SageMaker
MÔ TẢ
SageMaker Hugging Face Inference Toolkit là một thư viện mã nguồn mở để phục vụ các mô hình Transformers trên Amazon SageMaker. Thư viện này cung cấp tiền xử lý mặc định, dự đoán và xử lý hậu kỳ cho các tác vụ và mô hình Transformers nhất định. Nó sử dụng Bộ công cụ suy luận SageMaker để khởi động máy chủ mô hình, chịu trách nhiệm xử lý các yêu cầu suy luận. Đối với Dockerfiles được sử dụng để xây dựng Bộ chứa SageMaker Hugging Face, hãy xem Bộ chứa AWS Deep Learning. SageMaker Hugging Face Inference Toolkit triển khai nhiều biến môi trường bổ sung khác nhau để đơn giản hóa trải nghiệm triển khai của bạn. Hugging Face Inference Toolkit cho phép người dùng ghi đè các phương thức mặc định của HuggingFaceHandlerService. SageMaker Hugging Face Inference Toolkit được cấp phép theo Giấy phép Apache 2.0.
Tính năng
- Tạo điểm cuối Amazon SageMaker bằng mô hình từ Hub
- Tạo điểm cuối Amazon SageMaker với mô hình được đào tạo
- Biến môi trường HF_TASK xác định tác vụ cho đường ống Transformers đã sử dụng
- Biến môi trường HF_MODEL_ID xác định id mô hình, sẽ được tải tự động
- Biến môi trường HF_API_TOKEN xác định mã thông báo ủy quyền Hugging Face của bạn
- Mã/mô-đun do người dùng xác định
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tìm nạp từ https://sourceforge.net/projects/sagemak-hug-face-inf-tk.mirror/. Nó đã được lưu trữ trong OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
