Đây là ứng dụng Linux có tên Guardrails, bản phát hành mới nhất có thể được tải xuống dưới dạng v0.2.4.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên Guardrails with OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
Bảo vệ
MÔ TẢ
Guardrails là gói Python cho phép người dùng thêm các đảm bảo về cấu trúc, loại và chất lượng cho đầu ra của các mô hình ngôn ngữ lớn (LLM). Trọng tâm của Guardrails là thông số kỹ thuật của đường ray. Rail được dự định là một định dạng không phụ thuộc vào ngôn ngữ, con người có thể đọc được để chỉ định thông tin về cấu trúc và loại, trình xác thực và hành động khắc phục đối với các đầu ra LLM. Chúng tôi tạo thông số RAIL để mô tả cấu trúc và loại đầu ra LLM dự kiến, tiêu chí chất lượng để đầu ra được coi là hợp lệ và các hành động khắc phục cần thực hiện nếu đầu ra không hợp lệ.
Tính năng
- Có xác thực kiểu pydantic của các đầu ra LLM không
- Xác thực ngữ nghĩa như kiểm tra độ lệch trong văn bản được tạo, kiểm tra lỗi trong mã được tạo, v.v.
- Thực hiện các hành động khắc phục (ví dụ: yêu cầu lại LLM) khi xác thực không thành công
- Thực thi các đảm bảo về cấu trúc và kiểu (ví dụ JSON)
- Guardrails cung cấp định dạng (.rail) để thực thi thông số kỹ thuật trên đầu ra LLM
- Trình bao bọc nhẹ xung quanh lệnh gọi API LLM để triển khai thông số kỹ thuật này
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/guardrails.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.