这是名为 Aviary 的 Windows 应用程序，其最新版本可以作为 v0.3.1.zip 下载。 它可以在免费的工作站托管提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行名为 Aviary 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从本网站启动任何 OS OnWorks 在线模拟器，但更好的 Windows 在线模拟器。
- 5. 从您刚刚启动的 OnWorks Windows 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序并安装。
- 7. 从您的 Linux 发行版软件存储库下载 Wine。 安装后，您可以双击该应用程序以使用 Wine 运行它们。 您还可以尝试 PlayOnLinux，这是 Wine 上的一个花哨界面，可帮助您安装流行的 Windows 程序和游戏。
Wine 是一种在 Linux 上运行 Windows 软件的方法，但不需要 Windows。 Wine 是一个开源的 Windows 兼容层，可以直接在任何 Linux 桌面上运行 Windows 程序。 本质上，Wine 试图从头开始重新实现足够多的 Windows，以便它可以运行所有这些 Windows 应用程序，而实际上不需要 Windows。
截图：
百鸟
描述：
Aviary 是一个 LLM 服务解决方案，可以轻松部署和管理各种开源 LLM。 提供广泛的预配置开源 LLM 套件，默认设置开箱即用。 支持托管在 Hugging Face Hub 上或存在于本地磁盘上的 Transformer 模型。 得益于 Ray 和 Ray Serve，Aviary 原生支持自动缩放和多节点部署。 Aviary 可以根据需求扩展到零并创建新的模型副本（每个副本由多个 GPU 工作线程组成）。 Ray 确保自动处理编排和资源管理。 Aviary 能够支持数百个副本和数百个节点的集群，部署在云端或本地。
产品优势
- 全面支持多GPU、多节点模型部署
- 提供与 OpenAI 类似的 REST API，以便轻松迁移和交叉测试它们
- 提供连续批处理、量化和流式传输等高性能功能
- 在大多数情况下，将新法学硕士的添加简化到几分钟之内
- 在单一统一框架内简化多个法学硕士的部署
- 提供广泛的预配置开源 LLM 套件，默认设置开箱即用
程式语言
Python
分类
这是一个也可以从 https://sourceforge.net/projects/aviary.mirror/ 获取的应用程序。 它已托管在 OnWorks 中，以便从我们的免费操作系统之一以最简单的方式在线运行。