这是名为 PEFT 的 Windows 应用程序,其最新版本可以作为 GPTQQuantization,Low-levelAPI.zip 下载。 它可以在免费的工作站托管提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行名为 PEFT 的应用程序。
请按照以下说明运行此应用程序:
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从本网站启动任何 OS OnWorks 在线模拟器,但更好的 Windows 在线模拟器。
- 5. 从您刚刚启动的 OnWorks Windows 操作系统,使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序并安装。
- 7. 从您的 Linux 发行版软件存储库下载 Wine。 安装后,您可以双击该应用程序以使用 Wine 运行它们。 您还可以尝试 PlayOnLinux,这是 Wine 上的一个花哨界面,可帮助您安装流行的 Windows 程序和游戏。
Wine 是一种在 Linux 上运行 Windows 软件的方法,但不需要 Windows。 Wine 是一个开源的 Windows 兼容层,可以直接在任何 Linux 桌面上运行 Windows 程序。 本质上,Wine 试图从头开始重新实现足够多的 Windows,以便它可以运行所有这些 Windows 应用程序,而实际上不需要 Windows。
SCREENSHOTS
Ad
聚四氟乙烯
商品描述
参数高效微调 (PEFT) 方法可以使预训练的语言模型 (PLM) 有效适应各种下游应用程序,而无需微调所有模型的参数。 微调大型 PLM 的成本往往高昂。 在这方面,PEFT方法仅微调少量(额外)模型参数,从而大大降低了计算和存储成本。 最近最先进的 PEFT 技术实现了与完全微调相当的性能。
项目特色
- 利用 DeepSpeed 和大模型推理加速大规模模型
- 通过使用消费类硬件使 LLM 适应下游任务,获得与完全微调相当的性能
- 在少样本数据集上调整 LLM 所需的 GPU 内存
- 扩散模型的参数高效调整
- 不同设置所需的 GPU 内存
- RLHF 组件(例如Ranker 和Policy)的LLM 参数高效调整
程式语言
Python
分类
该应用程序也可以从 https://sourceforge.net/projects/peft.mirror/ 获取。 它已托管在 OnWorks 中,以便从我们的免费操作系统之一以最简单的方式在线运行。