这是名为 Basaran 的 Linux 应用程序，其最新版本可以下载为 v0.21.1.zip。 它可以在工作站的免费托管服务提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行这个名为 Basaran 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
巴萨兰
商品描述
Basaran 是 OpenAI 文本完成 API 的开源替代品。 它为基于 Hugging Face Transformers 的文本生成模型提供兼容的流式 API。 开源社区最终将见证大型语言模型 (LLM) 的稳定扩散时刻，而 Basaran 允许您用最新的开源模型替换 OpenAI 的服务，无需修改一行代码即可为您的应用程序提供动力。 使用各种解码策略的流生成。 支持仅解码器和编码器解码器模型。 处理代理项和空格的 Detokenizer。 具有可选 8 位量化的多 GPU 支持。 使用服务器发送的事件实时部分进度。 与 OpenAI API 和客户端库兼容。 带有一个精美的基于网络的游乐场。 Docker 镜像在 Docker Hub 和 GitHub Packages 上可用。
項目特色
- 使用各种解码策略的流生成
- 支持仅解码器和编码器解码器模型
- 处理代理项和空格的 Detokenizer
- 具有可选 8 位量化的多 GPU 支持
- 使用服务器发送的事件实时部分进度
- 与 OpenAI API 和客户端库兼容
- 带有一个花哨的基于网络的游乐场
程式语言
蟒蛇，JavaScript
分类
这是一个也可以从 https://sourceforge.net/projects/basaran.mirror/ 获取的应用程序。 它已托管在 OnWorks 中，以便以最简单的方式从我们的免费操作系统之一在线运行。
