这是名为 PEFT 的 Linux 应用程序，其最新版本可以作为 GPTQQuantization,Low-levelAPI.zip 下载。 它可以在免费的工作站托管提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行名为 PEFT 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
截图：
聚四氟乙烯
描述：
参数高效微调 (PEFT) 方法可以使预训练的语言模型 (PLM) 有效适应各种下游应用程序，而无需微调所有模型的参数。 微调大型 PLM 的成本往往高昂。 在这方面，PEFT方法仅微调少量（额外）模型参数，从而大大降低了计算和存储成本。 最近最先进的 PEFT 技术实现了与完全微调相当的性能。
产品优势
- 利用 DeepSpeed 和大模型推理加速大规模模型
- 通过使用消费类硬件使 LLM 适应下游任务，获得与完全微调相当的性能
- 在少样本数据集上调整 LLM 所需的 GPU 内存
- 扩散模型的参数高效调整
- 不同设置所需的 GPU 内存
- RLHF 组件（例如Ranker 和Policy）的LLM 参数高效调整
程式语言
Python
分类
大型语言模型（法学硕士）
该应用程序也可以从 https://sourceforge.net/projects/peft.mirror/ 获取。 它已托管在 OnWorks 中，以便从我们的免费操作系统之一以最简单的方式在线运行。