这是名为“文本生成 Web UI”的 Linux 应用，其最新版本可下载为 textgen-portable-3.12-macos-x86_64.zip。它可在免费的工作站托管服务提供商 OnWorks 上在线运行。
免费下载并运行名为 Text Generation Web UI with OnWorks 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
文本生成 Web UI
商品描述
用于运行 LLaMA、llama.cpp、GPT-J、Pythia、OPT 和 GALACTICA 等大型语言模型的 gradio Web UI。 用于在模型之间切换的下拉菜单。 类似于 OpenAI 游乐场的笔记本模式。 用于对话和角色扮演的聊天模式。 指令模式与 Alpaca 和 Open Assistant 格式兼容。 GPT-4chan 的良好 HTML 输出。 GALACTICA 的 Markdown 输出，包括 LaTeX 渲染。 自定义聊天角色。 高级聊天功能（发送图像、通过 TTS 获取音频响应）。 非常高效的文本流。 参数预设，8 位模式。 跨 GPU、CPU 和磁盘的层分割。 CPU 模式、FlexGen、DeepSpeed ZeRO-3、带流式传输和不带流式传输的 API。 LLaMA 模型，包括 4 位 GPTQ。 RWKV 模型、LoRA（加载和训练）、软提示和扩展。
功能
- 用于在模型之间切换的下拉菜单
- 类似于 OpenAI 游乐场的笔记本模式
- 用于对话和角色扮演的聊天模式
- 与 Alpaca 和 Open Assistant 格式兼容的指导模式
- GPT-4chan 的良好 HTML 输出
- GALACTICA 的 Markdown 输出，包括 LaTeX 渲染
- 高级聊天功能（发送图像、通过 TTS 获取音频响应）
- 跨 GPU、CPU 和磁盘的层分割
程式语言
Python
分类
这是一个也可以从 https://sourceforge.net/projects/text- Generation-web-ui.mirror/ 获取的应用程序。 它已托管在 OnWorks 中，以便从我们的免费操作系统之一以最简单的方式在线运行。
